台灣杉二號超級電腦助攻 逢甲大學學生實作大語言模型全參數調整

(中央社訊息服務20240807 17:17:44)逢甲大學自今年3月起即與華碩及其旗下的台智雲進行三方合作，啟動AI研發人才培育計畫。台智雲由國科會轄下的國研院國網中心和華碩集團合作建造，是國家政策下的重大AI基礎建設，擁有內涵大量繁體中文數據的「福爾摩沙基礎模型」。

逢甲大學運用台智雲「台灣杉二號」超級電腦，進行高達1760億個參數的大型語言模型全參數微調，並由人工智慧技術與應用學士學位學程、資訊工程學系等校內跨單位老師組成團隊，一起推動專屬逢甲大學的AI應用與落地，如ESG課程輔助工具和統籌課程智能TA等。商學院統籌課程智能TA預計於8月中上線，將首先在校內積學網中提供給新生優先體驗。智能TA將優先為商學院的課程提供智能化支持，同時透過先進的人工智慧技術，協助學生更有效地進行個人化學習。

在課程方面，逢甲大學將協同台智雲業師一同推出大語言模型創新與實務及進階應用等課程，是少數在國內能讓學生參與全模型參數微調及大語言模型實作的學習機會，且將結合專題探討與實作，鼓勵學生發想創新解決方案與引導學生模仿LLM架構，實際開發功能來完善或替代即有架構。除專業課程外，也會開設大語言模型應用概論，以基礎LLM架構與應用為主，走Low-Code / No-Code 體驗與實作，並透過開放校園數據，提供去個資化資料，讓師生一起參與學校的管理與營運，讓「課題」回到學校和學生生活。以甫獲得全國技能競賽雲端運算全國第二的逢甲資訊工程學系學生郭彥廷為例，他今年參與學校用影像資訊建立校園人流模型和逢甲大學開放申請出國研修學校查詢系統這二個開發專案，將資料佈建在雲端上，因為這二個實戰經驗，讓他在競賽中能夠更能快速的理解並更貼近實務情境的題目，最終獲得佳績。

透過這項跨界合作，逢甲大學不僅強化了其在AI領域的教學與研究能力，也為學生提供實際參與和貢獻於國家級AI發展的機會。不須要自建龐大機房，也能享有生成式AI服務，逢甲大學透過和微軟、台智雲等國際知名企業合作，提供不同等級的雲端或地端運算資源混合搭配，充分支持全校教學和研究所需，並達到永續節能的目標。