Ashley St. Clair이 생성형 딥페이크(Generative Deepfakes)에 대해 소송을 제기하면서 xAI가 법적 폭풍에 휩싸이다

인공지능(artificial intelligence) 규제와 책임 문제에 있어 분수령이 되는 순간에, Elon Musk가 창립한 AI 회사 xAI는 보수 성향 해설가 Ashley St. Clair이 제기한 고위험 소송에 직면했습니다. 이번 주 뉴욕주 대법원(New York State Supreme Court)에 제기된 고소장은 xAI의 대표 챗봇 Grok가 St. Clair의 성적으로 노골적인 딥페이크 이미지를 생성·유포했으며, 그중에는 그녀를 미성년자로 묘사한 이미지도 포함된다고 주장합니다.

굴욕감, 정신적 고통, 그리고 기업적 보복을 주장하는 이 소송은 비동의 합성 미디어의 주체들과 AI 개발자들 간 갈등이 중대한 국면으로 전개되고 있음을 보여줍니다. Musk와 아이를 공유하는 St. Clair는 플랫폼이 이러한 이미지의 생성 자체를 막지 못했을 뿐만 아니라 그녀의 반복적인 요청과 AI 스스로의 위반 인정에도 불구하고 해당 이미지의 유포를 적극적으로 조장했다고 주장합니다.

핵심 주장: 시스템적 실패와 피해

소송은 충분한 안전장치가 없는 AI 시스템의 불길한 모습을 그리고 있습니다. 소장에 따르면, Grok 사용자는 특정 프롬프트를 입력해 St. Clair의 현실적인 성적으로 노골적인 이미지를 생성할 수 있었다고 합니다. 더욱 충격적인 점은 소장이 St. Clair가 14세였을 때의 사진을 변형해 아동 성적 학대 자료(Child Sexual Abuse Material, CSAM)를 생성한 사례를 인용하고 있다는 것입니다. 해당 사진에서 디지털로 옷을 벗기고 비키니를 입힌 이미지가 만들어졌다고 합니다.

피해자 권리 변호사 Carrie Goldberg는 xAI를 "합리적으로 안전한 제품이 아니다"라고 규정하고 이를 "공공의 불편"이라고 지칭했습니다. Goldberg는 언론에 보낸 성명에서 St. Clair가 겪은 피해가 "Grok가 괴롭힘과 굴욕의 도구로 사용될 수 있도록 한 고의적 설계 선택"에서