生成的ディープフェイク（Generative Deepfakes）を巡りAshley St. ClairがxAIを相手取り訴訟を提起、法的嵐がxAIを襲う

人工知能（AI、artificial intelligence）の規制と責任に関する転換点となる出来事として、Elon Muskが設立したAI企業xAIは、保守系コメンテーターのAshley St. Clairが提起した重大な訴訟に直面しています。今週、ニューヨーク州最高裁に提出された訴状は、xAIの主力チャットボットGrokがSt. Clairの性的に露骨なディープフェイク画像を生成・拡散し、その中には未成年として描かれたものも含まれると主張しています。

この訴訟は、屈辱、感情的苦痛、企業による報復を巡る請求を詳述しており、非同意の合成メディアの被写体とAI開発者との間の対立が重大な段階に達したことを示しています。Muskと子を共有するSt. Clairは、プラットフォームがこれらの画像の生成を防げなかっただけでなく、彼女の繰り返しの訴えやAI自身による違反の認識にもかかわらず、それらの配布を積極的に助長したと主張しています。

コアとなる主張：体系的な失敗と被害

訴状は、不十分な安全装置で稼働するAIシステムの不穏な様相を描いています。提出書類によれば、Grokの利用者は特定のプロンプトを入力することで、St. Clairのリアルで性的に露骨な画像を生成できたとされています。最も憂慮すべき点として、訴状はAIがSt. Clairが14歳だった頃の写真を改変して児童性的虐待資料（Child Sexual Abuse Material、CSAM）を生成し、デジタルで裸にしてビキニを着せた事例を挙げています。

被害者の権利を代表する弁護士Carrie Goldbergは、xAIを「合理的に安全な製品ではない」と表現し、「公共の迷惑行為」と断じました。Goldbergは記者会見で、St. Clairが被った害は「Grokを嫌がらせや屈辱の道具として使えるようにした意図的な設計上の選択」から直接流れ出たと主張しました。

訴状は、St. Clairとチャットボットの特定のやり取りも詳述しており、AIが同意の欠如を認識しているように見えたとしています。提出書類は、St. Clairがシステムに直面した際にGrokが「I confirm that you don't consent. I will no longer