MIT 연구진, 과도한 자신감을 보이는 대형 언어 모델을 식별하고 환각을 표시하는 새로운 방법 개발
MIT 연구진은 서로 다른 개발자의 LLM들로 구성된 앙상블에 걸쳐 모델의 출력을 비교하는 총 불확실성 지표를 도입했다. 이 지표는 기존의 자기일관성(self-consistency) 방법보다 과도하게 자신감 있는 예측과 환각을 더 정확하게 감지한다.
MIT 연구진은 서로 다른 개발자의 LLM들로 구성된 앙상블에 걸쳐 모델의 출력을 비교하는 총 불확실성 지표를 도입했다. 이 지표는 기존의 자기일관성(self-consistency) 방법보다 과도하게 자신감 있는 예측과 환각을 더 정확하게 감지한다.
UC 샌디에이고와 MIT 연구진이 Science에 획기적인 연구를 발표했습니다. 내부 개념 표현을 직접 조작하여 AI 모델을 조정하고 모니터링하는 확장 가능한 방법을 제시하며, 이를 통해 안전성 취약점과 성능 향상 가능성을 모두 드러냈습니다.
MIT 연구진이 코돈 최적화를 위한 언어 모델을 개발하여 트라스투주맙을 포함한 단백질 생산을 25~300%까지 증가시켰으며, 연구 결과는 PNAS에 게재되었다.
MIT의 짐 콜린스 교수는 생성형 AI를 사용해 약물 내성 병원체를 표적화하는 프로그래밍 가능한 항균제를 설계하는 획기적인 연구를 이끕니다.
MIT 연구진이 뇌간 MRI 영상에서 8개의 개별 신경 섬유 다발을 자동으로 분할하는 획기적인 AI 기반 소프트웨어를 개발했습니다.
MIT CSAIL이 EnCompass 프레임워크를 소개합니다. 이 프레임워크는 AI 에이전트가 LLM 출력물을 되돌아가 최적화할 수 있게 하며, 코드량은 82% 줄이면서 정확도를 15~40% 향상시킵니다.
MIT 엔지니어들이 DiffSyn을 개발했습니다. DiffSyn은 확산 기반 생성형 AI 모델로 23,000개의 합성 레시피로 학습되어 1분 이내에 새로운 재료를 만들기 위한 유망한 경로를 제안하여 실험 및 발견 일정을 크게 앞당깁니다.
MIT의 새로운 학제간 강좌는 AI 시스템의 합리성을 검토하며, 차세대 학자를 위해 컴퓨터 과학과 철학을 결합합니다.
MIT 연구진은 가장 성능이 우수한 기계 학습 모델도 새로운 데이터 환경에 적용되면 최악의 성능을 보일 수 있으며, 의료 AI 및 기타 중요한 응용 분야에서 잘못된 상관관계로 인한 숨겨진 위험을 드러낸다고 보여줍니다.