點火AI應用 國網中心釋免費算力助業者開發LLM服務

(中央社記者張璦台北30日電)壯大台灣人工智慧(AI)創新應用聚落,國家高速網路與計算中心的生成式AI應用開發平台近日啟動試營運,提供中小企、新創申請免費算力資源以及TAIDE、Llama等開源模型,降低開發與落地成本,並發展合乎自身需求的大型語言模型(LLM)等AI產品或服務。
生成式AI迅速崛起,但企業開發AI應用仍面臨高昂成本、技術整合難度及數據處理與模型優化等挑戰,限制了AI技術的普及與落地應用。
為解決痛點、促進台灣百工百業AI發展,國科會轄下國研院國網中心推出「TAIWAN AI RHAP」生成式人工智慧應用開發平台,於3月28日啟動試營運,台灣資訊服務業者、新創公司、中小企業、學研單位可提出應用主題開發提案,通過評選者將獲GPU算力,換算約等值國網中心iService服務網上新台幣65萬元的算力額度。
根據國研院國網中心規劃,試營運申請分2階段,第一批申請時間為即日起至4月24日,第2階段為7月7日至7月16日,申請者需提出開發AI產品或服務的目的、主要使用者、市場定位、商業模式,以及說明預期可帶來的產業或社會應用價值、如何解決市場痛點等,服務提供方式可包含網頁或APP等。
根據國網中心公告,TAIWAN AI RHAP平台主要是希望提供一個高效、穩定的AI算力環境,讓業者或學研團隊可在平台上開發AI服務、訓練模型,並進行驗證測試,探索不同的應用可能性,並協助降低開發門檻,加速AI產品或服務的研發,以促進AI創新應用生態聚落。
一般而言,有需求者可透過國網中心iService服務網購買算力資源,這次推出的TAIWAN AI RHAP平台在試營運期間則提供免費算力,也有內建台灣可信任生成式AI對話引擎TAIDE、Meta公司的Llama等多種開源模型,強化台灣繁體中文應用,讓業者迅速開發加值服務,發展合乎自身需求的大型語言模型等AI產品或服務。
同時,用戶亦可在TAIWAN AI RHAP平台上進行模型微調,提升模型的準確性與適用性,例如零售業可透過微調,打造符合品牌風格的AI購物顧問,優化顧客體驗。
至於徵選名額,國網中心將依申請情況動態調整,審查方式採取隨申請隨審。
ChatGPT等大型語言模型(LLM)訓練以及其他AI相關運算,若用GPU為主的超級電腦會快速非常多,目前國網中心以GPU為主的主機,包含「台灣杉二號」(TAIWANIA 2)、「晶創25」(Nano 5),因此預期TAIWAN AI RHAP平台試營運期間提供的免費算力來源,將以上述2台超級電腦為主。(編輯:蘇志宗)1140330
- 2025/04/01 10:27
- 2025/03/31 11:08
- 2025/03/31 08:33
- 點火AI應用 國網中心釋免費算力助業者開發LLM服務2025/03/30 10:00
- 2025/03/29 20:46
- 2025/03/28 18:58
本網站之文字、圖片及影音,非經授權,不得轉載、公開播送或公開傳輸及利用。