정교한 AI 생성 딥페이크가 2026년 미국 중간선거 전반에 걸쳐 확산되면서 유권자, 캠페인, 플랫폼이 진짜 정치 콘텐츠와 합성 미디어를 구별하려 할 때 전례 없는 문제를 야기하고 있다.

레지나 대학교 연구진은 캐나다인을 겨냥한 허위 서사에 대응하기 위해 CIPHER 허위정보 탐지 도구에 AI 기능을 강화했습니다. 이 시스템은 러시아의 선전 캠페인을 분석하며 중국어 허위정보를 해독하도록 확장되고 있습니다.

연구자들은 학술지 Science에서 정교한 AI 군집이 대형 언어 모델에 의해 조정되어 소셜 미디어 플랫폼에 침투해 허위 서사를 퍼뜨리고 사용자를 괴롭힐 것이라고 경고한다. 실험에서는 AI 챗봇이 의견을 바꾸는 데 있어 인간보다 3~6배 더 설득력이 있는 것으로 나타났다.