カリフォルニア州司法長官は、イーロン・マスクのxAIに対し、Grokが同意なく性的に描写されたディープフェイク画像を生成するのをやめるよう命じ、世界的な非難や法的措置の中で同社への規制圧力を強めています。

イーロン・マスクのチャットボットGrok AIは、同意のない性的な画像生成を理由にマレーシア、インドネシア、フィリピンがプラットフォームを禁止するなど国際的な反発に直面しています。国防総省（ペンタゴン）の導入は安全保障上の懸念を引き起こしています。

アシュリー・セントクレア（イーロン・マスクの子どもの一人の母親）は、チャットボットGrokが生成した性的に露骨なディープフェイク画像を巡り、同氏のAI企業xAIを相手取って訴訟を起こした。訴状は屈辱感と精神的苦痛を主張している。

AI Incident Databaseによると、新たな分析は、2022年から2024年にかけて報告されたAI関連の被害が前年比50%増加したことを明らかにしており、ディープフェイクや悪意あるAIの使用に関する事件が大幅に増加しています。

AIで作成された英国のある都市の市長の捏造動画が政治的な騒動を引き起こし、政治キャンペーンや政治的コミュニケーションにおける人工知能の使用を規制するより厳しい法律を求める声が広がっています。

イーロン・マスクの xAI とそのチャットボット Grok は、同意なしに作成された露骨な画像やディープフェイクの生成を巡り、英国やブラジルを含む複数の国で国際的な規制の監視や潜在的な禁止措置に直面している。