輝達發表開發者套件 生成式AI推論效能增1.7倍
2024/12/18 13:19
(中央社記者吳家豪台北18日電)人工智慧(AI)晶片大廠輝達(NVIDIA)推出新款NVIDIA Jetson Orin Nano Super開發者套件,僅手掌大小,運行生成式AI的推論效能提高1.7倍,價格從499美元(約新台幣1.62萬元)降至249美元。
輝達今天發布新聞稿表示,新款開發者套件包含一個Jetson Orin Nano 8GB系統模組(SoM)與一個參考設計載板,提供開發邊緣AI應用原型的平台。
輝達指出,與前一代產品相比,今天上市的Jetson Orin Nano Super開發者套件能夠將生成式AI的推論效能提高1.7倍,記憶體頻寬加大50%至每秒102 GB,可用於使用檢索增強生成技術來建立大型語言模型(LLM)聊天機器人、建立視覺AI代理,以及部署AI機器人。(編輯:林淑媛)1131218
- 2024/12/22 10:32
- 2024/12/20 05:21
- 2024/12/19 11:37
- 輝達發表開發者套件 生成式AI推論效能增1.7倍2024/12/18 13:19
- 2024/12/17 22:00
- 2024/12/17 14:31
本網站之文字、圖片及影音,非經授權,不得轉載、公開播送或公開傳輸及利用。
請繼續下滑閱讀
輝達來台設研發中心 經部揭秘赴矽谷說服黃仁勳幕後