PrismML 推出節能 1 位元 LLM,讓 AI 脫離雲端
獲得 Caltech 支持的 PrismML 發布了 Bonasi,這是一款 1 位元 LLM,體積比同類 8B 模型小 14 倍、能源效率高 5 倍,旨在不依賴雲端運行 AI。
獲得 Caltech 支持的 PrismML 發布了 Bonasi,這是一款 1 位元 LLM,體積比同類 8B 模型小 14 倍、能源效率高 5 倍,旨在不依賴雲端運行 AI。
Arm 執行長 Rene Haas 在達沃斯強調,正從集中式資料中心轉向分散式邊緣 AI,以解決能源與記憶體瓶頸問題。