캘리포니아 주 법무장관은 일론 머스크의 xAI에 대해 Grok이 동의 없이 성적으로 묘사된 딥페이크 이미지를 생성하지 못하도록 명령했으며, 이는 전 세계적 비난과 법적 조치 속에서 해당 기업에 대한 규제 압력을 강화했습니다.

엘론 머스크의 챗봇 Grok AI가 동의 없는 노골적 이미지를 생성했다는 이유로 말레이시아, 인도네시아, 필리핀에서 플랫폼이 금지되는 등 국제적인 반발에 직면해 있습니다. 펜타곤의 도입은 보안 우려를 불러일으키고 있습니다.

애슐리 세인트클레어(일론 머스크 자녀 중 한 명의 어머니)는 챗봇 Grok이 생성한 성적으로 노골적인 딥페이크 이미지와 관련해 그의 AI 회사 xAI를 상대로 소송을 제기했다. 소송은 굴욕감과 정신적 고통을 주장하고 있다.

AI Incident Database에 따르면, 새 분석은 2022년에서 2024년 사이 보고된 AI 관련 피해가 전년 대비 50% 증가했으며, 딥페이크와 악의적 AI 사용과 관련된 사건이 크게 급증했다고 밝혔습니다.

AI로 제작된 영국 한 도시 시장의 조작 영상이 정치적 논란을 일으키며, 정치 캠페인과 소통에서 인공지능 사용을 규제하는 보다 엄격한 법안을 요구하는 광범위한 목소리를 낳았습니다.

일론 머스크의 xAI와 그 채팅봇 Grok은 동의 없는 노골적 이미지와 딥페이크 생성 문제로 영국과 브라질을 포함한 여러 국가에서 국제적인 규제 조사와 잠재적 금지 대상이 되고 있다.