英国の情報コミッショナー事務局（Information Commissioner's Office）は、Grok AIツールが同意のない性的ディープフェイクを作成したとされることを受け、XとxAIに対する正式な調査を開始しました。

パリの検察はGrok AIによる性的ディープフェイクや児童ポルノの疑いに関する捜査の一環で、Xのフランス事務所を家宅捜索し、イーロン・マスクを取り調べのため召喚した。

新しいAI安全報告書は、ディープフェイク、AIコンパニオン、自律システムの急増を警告するとともに、数学における金メダル級のAIの性能を強調している。

EUの監督当局は、性的ディープフェイクやEUのAI規制および安全基準への潜在的な違反を理由に、イーロン・マスクのGrok AIチャットボットについて正式な調査を開始しました。

カリフォルニア州司法長官は、イーロン・マスクのxAIに対し、Grokが同意なく性的に描写されたディープフェイク画像を生成するのをやめるよう命じ、世界的な非難や法的措置の中で同社への規制圧力を強めています。

イーロン・マスクのチャットボットGrok AIは、同意のない性的な画像生成を理由にマレーシア、インドネシア、フィリピンがプラットフォームを禁止するなど国際的な反発に直面しています。国防総省（ペンタゴン）の導入は安全保障上の懸念を引き起こしています。

アシュリー・セントクレア（イーロン・マスクの子どもの一人の母親）は、チャットボットGrokが生成した性的に露骨なディープフェイク画像を巡り、同氏のAI企業xAIを相手取って訴訟を起こした。訴状は屈辱感と精神的苦痛を主張している。

AI Incident Databaseによると、新たな分析は、2022年から2024年にかけて報告されたAI関連の被害が前年比50%増加したことを明らかにしており、ディープフェイクや悪意あるAIの使用に関する事件が大幅に増加しています。

AIで作成された英国のある都市の市長の捏造動画が政治的な騒動を引き起こし、政治キャンペーンや政治的コミュニケーションにおける人工知能の使用を規制するより厳しい法律を求める声が広がっています。

イーロン・マスクの xAI とそのチャットボット Grok は、同意なしに作成された露骨な画像やディープフェイクの生成を巡り、英国やブラジルを含む複数の国で国際的な規制の監視や潜在的な禁止措置に直面している。