MIT 연구진, 과도한 자신감을 보이는 대형 언어 모델을 식별하고 환각을 표시하는 새로운 방법 개발
MIT 연구진은 서로 다른 개발자의 LLM들로 구성된 앙상블에 걸쳐 모델의 출력을 비교하는 총 불확실성 지표를 도입했다. 이 지표는 기존의 자기일관성(self-consistency) 방법보다 과도하게 자신감 있는 예측과 환각을 더 정확하게 감지한다.
MIT 연구진은 서로 다른 개발자의 LLM들로 구성된 앙상블에 걸쳐 모델의 출력을 비교하는 총 불확실성 지표를 도입했다. 이 지표는 기존의 자기일관성(self-consistency) 방법보다 과도하게 자신감 있는 예측과 환각을 더 정확하게 감지한다.