カリフォルニア州司法長官は、イーロン・マスクのxAIに対し、Grokが同意なく性的に描写されたディープフェイク画像を生成するのをやめるよう命じ、世界的な非難や法的措置の中で同社への規制圧力を強めています。

アシュリー・セントクレア（イーロン・マスクの子どもの一人の母親）は、チャットボットGrokが生成した性的に露骨なディープフェイク画像を巡り、同氏のAI企業xAIを相手取って訴訟を起こした。訴状は屈辱感と精神的苦痛を主張している。

ペンタゴンは、イーロン・マスクのGrok AIを機密および非機密の軍事ネットワークに統合すると発表しました。国防長官ピート・ヘグセットは、すべての適切なデータが『AI活用』のために利用可能になると述べました。

AI Forensicsの研究は、イーロン・マスクのAIプラットフォームGrokが、最近導入された安全対策やコンテンツ制限を回避して、大量の性的に露骨な画像を生成し続けていることを明らかにした。

対デジタルヘイトセンター（CCDH）の調査によると、イーロン・マスクのGrok AIは約11日間で約300万件の性的な画像を生成したと推定されており、深刻な安全上の懸念を引き起こしています。

欧州委員会はデジタルサービス法に基づき、イーロン・マスクのAIチャットボット「Grok」に対する手続きを開始する予定であり、これによりxAIが当該チャットボットをEUから撤退させる可能性がある。

欧州の規制当局は、デジタルサービス法に基づきGrok AIチャットボットに対して正式な手続きを開始した。これはAIシステムへの規制監視が強まっていることを反映している。

イーロン・マスクの xAI とそのチャットボット Grok は、同意なしに作成された露骨な画像やディープフェイクの生成を巡り、英国やブラジルを含む複数の国で国際的な規制の監視や潜在的な禁止措置に直面している。