PrismML, AI를 클라우드에서 벗어나게 할 에너지 효율적인 1비트 LLM 공개
Caltech의 지원을 받는 PrismML은 Bonasi를 출시했다. Bonasi는 비교 가능한 8B 모델보다 14배 작고 에너지 효율은 5배 높은 1비트 LLM으로, 클라우드 의존 없이 AI를 실행하는 것을 목표로 한다.
Caltech의 지원을 받는 PrismML은 Bonasi를 출시했다. Bonasi는 비교 가능한 8B 모델보다 14배 작고 에너지 효율은 5배 높은 1비트 LLM으로, 클라우드 의존 없이 AI를 실행하는 것을 목표로 한다.
Arm CEO Rene Haas는 다보스에서 중앙집중형 데이터센터에서 분산형 엣지 AI로의 전환을 강조하며 에너지와 메모리 병목 문제를 해결해야 한다고 말했습니다.