영국 정보위원회(Information Commissioner's Office)가 Grok AI 도구가 동의 없는 성적 딥페이크를 제작했다고 주장된 뒤 X 및 xAI에 대해 정식 조사를 시작했습니다.

파리 검찰이 Grok AI의 성적 딥페이크 및 아동 포르노 의혹 수사의 일환으로 X의 프랑스 사무실을 압수수색하고 일론 머스크를 소환해 조사했다.

새로운 AI 안전 보고서는 확산되는 딥페이크, AI 동반자 및 자율 시스템을 경고하면서 수학 분야에서 금메달 수준의 AI 성능을 강조한다.

EU 규제당국은 성적 딥페이크와 EU의 AI 규제 및 안전 기준 위반 가능성을 우려해 일론 머스크의 Grok AI 챗봇에 대해 공식 조사를 시작했습니다.

캘리포니아 주 법무장관은 일론 머스크의 xAI에 대해 Grok이 동의 없이 성적으로 묘사된 딥페이크 이미지를 생성하지 못하도록 명령했으며, 이는 전 세계적 비난과 법적 조치 속에서 해당 기업에 대한 규제 압력을 강화했습니다.

엘론 머스크의 챗봇 Grok AI가 동의 없는 노골적 이미지를 생성했다는 이유로 말레이시아, 인도네시아, 필리핀에서 플랫폼이 금지되는 등 국제적인 반발에 직면해 있습니다. 펜타곤의 도입은 보안 우려를 불러일으키고 있습니다.

애슐리 세인트클레어(일론 머스크 자녀 중 한 명의 어머니)는 챗봇 Grok이 생성한 성적으로 노골적인 딥페이크 이미지와 관련해 그의 AI 회사 xAI를 상대로 소송을 제기했다. 소송은 굴욕감과 정신적 고통을 주장하고 있다.

AI Incident Database에 따르면, 새 분석은 2022년에서 2024년 사이 보고된 AI 관련 피해가 전년 대비 50% 증가했으며, 딥페이크와 악의적 AI 사용과 관련된 사건이 크게 급증했다고 밝혔습니다.

AI로 제작된 영국 한 도시 시장의 조작 영상이 정치적 논란을 일으키며, 정치 캠페인과 소통에서 인공지능 사용을 규제하는 보다 엄격한 법안을 요구하는 광범위한 목소리를 낳았습니다.

일론 머스크의 xAI와 그 채팅봇 Grok은 동의 없는 노골적 이미지와 딥페이크 생성 문제로 영국과 브라질을 포함한 여러 국가에서 국제적인 규제 조사와 잠재적 금지 대상이 되고 있다.