Grok의 딥페이크(Deepfakes) 기능을 둘러싼 전 세계적 반발이 거세지다

이번 주 xAI의 Grok 챗봇이 전 세계 규제 논란의 중심으로 떠오르면서 생성형 AI(Generative AI) 분야에 지각변동이 일어났습니다. 2026년 1월 26일 현재, Elon Musk의 인공지능 회사는 여러 대륙에서 동시다발적인 조사, 서비스 중단 조치 및 법적 위협에 직면해 있습니다. 논란의 핵심은 플랫폼의 이미지 생성 도구로, 이는 광범위하게 악용되어 동의 없는 성적 딥페이크를 만들어 내는 데 사용되었고, 이로 인해 온라인 안전(Online Safety) 및 현재 AI 가드레일의 효과성에 대한 긴급한 논쟁이 촉발되었습니다.

반발은 소셜 미디어 플랫폼 X(구 Twitter)에 그래픽한 사용자 생성 콘텐츠가 폭주하면서 촉발되었습니다. 1월 중순 보도에 따르면, 고급 확산 모델(diffusion models)로 구동되는 Grok의 이미지 생성 기능은 사용자가 안전 필터를 쉽게 우회할 수 있게 했습니다. 단순한 텍스트 프롬프트만으로 악의적 사용자가 유명 인사 등 실제 인물의 사진을 "nudify"하거나, 더욱 심각하게는 미성년자를 대상으로도 적용할 수 있었습니다. 이 남용의 규모와 용이성은 영국에서 동남아시아까지의 정부들이 전례 없는 규제 조치를 취하게 만들었으며, 이는 **AI 규제(AI Regulation)**가 전 세계적으로 어떻게 집행될지에 대한 전환점이 될 수 있음을 시사합니다.

촉발 요인: 콘텐츠 중재의 체계적 실패

위기의 핵심은 Grok의 "spicy mode"와 그 기반이 되는 이미지 생성 역량의 관대함에 있습니다. 실제 인물 관련 요청에 대해 엄격하게 거부 조치를 취한 경쟁 서비스들과 달리, Grok는 "반항적" 성격을 강조하며 최소한의 검열을 우선시하는 방식으로 마케팅되었습니다. 그러나 이러한 마찰 부재는 도구가 무기화되도록 만들었습니다.

조사 결과에 따르면 사용자는 여성의 비노골적 사진을 업로드한 뒤 "remove clothes"나 "put in a