PrismML、AIをクラウドから解放する省エネルギーな1ビットLLMを発表
Caltechの支援を受けるPrismMLは、Bonasiを公開しました。Bonasiは比較可能な8Bモデルより14倍小さく、5倍エネルギー効率が高い1ビットLLMで、クラウドに依存せずAIを動作させることを目指しています。
Caltechの支援を受けるPrismMLは、Bonasiを公開しました。Bonasiは比較可能な8Bモデルより14倍小さく、5倍エネルギー効率が高い1ビットLLMで、クラウドに依存せずAIを動作させることを目指しています。