캘리포니아 주 법무장관은 일론 머스크의 xAI에 대해 Grok이 동의 없이 성적으로 묘사된 딥페이크 이미지를 생성하지 못하도록 명령했으며, 이는 전 세계적 비난과 법적 조치 속에서 해당 기업에 대한 규제 압력을 강화했습니다.

애슐리 세인트클레어(일론 머스크 자녀 중 한 명의 어머니)는 챗봇 Grok이 생성한 성적으로 노골적인 딥페이크 이미지와 관련해 그의 AI 회사 xAI를 상대로 소송을 제기했다. 소송은 굴욕감과 정신적 고통을 주장하고 있다.

펜타곤은 일론 머스크의 Grok AI를 기밀 및 비기밀 군사 네트워크에 통합할 것이라고 발표했습니다. 국방장관 피트 헤그셋(Pete Hegseth)은 모든 적절한 데이터가 'AI 활용'을 위해 사용 가능할 것이라고 밝혔습니다.

AI Forensics의 연구는 엘론 머스크의 AI 플랫폼 Grok이 최근 도입된 안전장치와 콘텐츠 제한을 우회하며 다량의 성적으로 노골적인 이미지를 계속 생성하고 있음을 밝혀냈다.

Center for Countering Digital Hate (CCDH)의 연구는 일론 머스크의 Grok AI가 약 11일 동안 약 300만 건의 성적 이미지를 생성하는 데 사용된 것으로 추정되며, 심각한 안전 문제를 야기한다고 보고합니다。

유럽연합 집행위원회는 디지털 서비스법(DSA)에 따라 엘론 머스크의 AI 챗봇 '그록'에 대해 절차를 개시할 예정이며, 이는 xAI가 해당 챗봇을 EU에서 철수하도록 강제할 가능성이 있다.

유럽 규제 당국이 디지털 서비스법에 따라 Grok AI 챗봇에 대해 공식 절차를 시작했으며, 이는 AI 시스템에 대한 규제 감독 강화 추세를 반영한다.

일론 머스크의 xAI와 그 채팅봇 Grok은 동의 없는 노골적 이미지와 딥페이크 생성 문제로 영국과 브라질을 포함한 여러 국가에서 국제적인 규제 조사와 잠재적 금지 대상이 되고 있다.