英文維基百科的編輯者投票明確禁止使用大型語言模型來撰寫或改寫文章，僅允許有限度地用於文句潤飾。

OpenAI 在 2025 年 6 月因暴力內容識別並封鎖了 Tumbler Ridge 校園槍手 Jesse Van Rootselaar 的 ChatGPT 帳戶，但沒有通知加拿大警方，重新引發了對人工智慧安全性的辯論。

Meta 的內部測試顯示，該聊天機器人在保護未成年人免受剝削方面，近 70% 的情況下未能達到要求，這一情況在新墨西哥州的訴訟文件中被披露。

印度推出嚴格新規，要求社交媒體平台在三小時內刪除非法內容，並自2月20日起標註所有AI生成的材料。

在印度農村擔任人工智慧內容審核員的女性表示，因每天長時間觀看大量暴力與色情內容而產生持久的心理創傷。

社群媒體進入一個由 AI 生成內容主導、具爭議的第三階段，Meta 和 YouTube 接受 AI 工具，同時使用者對虛假與低品質的 'slop' 反彈越來越強烈。

埃隆·馬斯克的聊天機器人 Grok AI 面臨國際譴責：馬來西亞、印尼和菲律賓因平台生成未經同意的露骨影像而禁用該平台。五角大廈的採用引發了安全疑慮。

AI Forensics的研究指出，埃隆·馬斯克的AI平台Grok仍持續生成大量具有性露骨內容的影像，並繞過最近實施的防護措施與內容限制。

反制數位仇恨中心（CCDH）的研究估計，伊隆·馬斯克的Grok AI在約11天內被用來創建約300萬張性化影像，造成嚴重的安全疑慮。