根據AI Incident Database的分析，新研究顯示從2022到2024年，與AI相關的傷害報告年增率達50%，其中涉入深偽（deepfake）及惡意使用AI的事件明顯激增。

專家擔心 Google 的 AI 概要可能會提供「完全錯誤」的醫療建議，危及公共衛生。一項新研究發現，YouTube 被引用的頻率高於任何醫療網站，形成了一個「不受監管的醫療權威」。

測試顯示，OpenAI 最新的 ChatGPT 模型將伊隆·馬斯克由 AI 生成的百科全書 Grokipedia 作為引用來源，導致人們對錯誤資訊與偏頗敘事擴散的擔憂。