高度なAI生成のディープフェイクが2026年の米国中間選挙の期間中に広がり、有権者、選挙陣営、プラットフォームが本物の政治コンテンツと合成メディアを見分けるのに前例のない課題を生んでいる。

レジーナ大学の研究者は、カナダ人を標的とする虚偽の論調と戦うために、誤情報検出ツールCIPHERにAI機能を強化しました。システムはロシアのプロパガンダキャンペーンを分析しており、中国語の誤情報を解読するために拡張しています。

研究者たちはScience誌で、高度なAIスウォームが大規模言語モデルによって連携され、ソーシャルメディアプラットフォームに侵入して虚偽のナラティブを拡散し、ユーザーに嫌がらせを行うと警告している。実験では、AIチャットボットが意見を変える際に人間より3〜6倍説得力があることが示された。