晶心科攜手Fractile 打造AI推理加速器
2024/10/25 11:12
(中央社記者張建中新竹25日電)矽智財(IP)廠晶心科宣布,與Fractile策略合作,開發加速人工智慧(AI)推理的全新晶片,目標讓運行大語言模型時更快速、成本更低。
晶心科發布新聞稿表示,Fractile向晶心科取得AX45MPV RISC-V向量處理器授權,結合ACE自動化工具和資料庫,並計劃將向量處理單元整合到第1代的資料中心AI推理加速器中。
晶心科指出,Fractile透過記憶體運算架構,這樣就不需要將模型參數往返於處理器晶片上,能夠瞬間產生答案,相較採用當前硬體需要數秒才能完成快速。
晶心科表示,Fractile整合雙方的優勢,克服傳統運算方式的限制,突破記憶體瓶頸,將可提供快速且經濟高效的人工智慧推理系統。
Fractile是一家AI硬體公司,2022年在倫敦成立,致力透過使神經網路運行更快、更有效率,增強集體人工智慧能力,已自北約創新基金等投資者籌集1750萬美元。(編輯:楊蘭軒)1131025
本網站之文字、圖片及影音,非經授權,不得轉載、公開播送或公開傳輸及利用。