PrismML、AIをクラウドから解放する省エネルギーな1ビットLLMを発表
Caltechの支援を受けるPrismMLは、Bonasiを公開しました。Bonasiは比較可能な8Bモデルより14倍小さく、5倍エネルギー効率が高い1ビットLLMで、クラウドに依存せずAIを動作させることを目指しています。
Caltechの支援を受けるPrismMLは、Bonasiを公開しました。Bonasiは比較可能な8Bモデルより14倍小さく、5倍エネルギー効率が高い1ビットLLMで、クラウドに依存せずAIを動作させることを目指しています。
ArmのCEOレネ・ハースはダボスで、集中型データセンターから分散型のエッジAIへの移行を強調し、エネルギーとメモリのボトルネックに対処することを述べました。