加州總檢察長已命令伊隆·馬斯克的 xAI 停止讓 Grok 生成未經同意的性化深偽影像，在全球譴責與法律行動中，對該公司的監管壓力因此升級。

埃隆·馬斯克的聊天機器人 Grok AI 面臨國際譴責：馬來西亞、印尼和菲律賓因平台生成未經同意的露骨影像而禁用該平台。五角大廈的採用引發了安全疑慮。

Ashley St Clair，伊隆·馬斯克其中一名孩子的母親，已對他的人工智慧公司 xAI 提起訴訟，理由是其聊天機器人 Grok 生成了帶有性暗示的深度偽造影像。訴訟稱這些影像造成她的屈辱與情感痛苦。

根據AI Incident Database的分析，新研究顯示從2022到2024年，與AI相關的傷害報告年增率達50%，其中涉入深偽（deepfake）及惡意使用AI的事件明顯激增。

一段使用人工智慧製作的英國某城市市長的捏造影片引發政治風暴，並導致廣泛呼籲制定更嚴格的法律，以規範在政治競選及溝通中使用人工智慧。

埃隆·馬斯克的 xAI 及其聊天機器人 Grok 因生成未經同意的露骨影像與深偽（deepfake）而在包括英國和巴西等多國面臨國際監管審查和潛在禁令。