カリフォルニア州司法長官が違法ディープフェイクの「Avalanche」を受けてxAIに厳格な差し止め命令を発出
カリフォルニア州司法長官 Rob Bonta は、Elon Musk が設立した人工知能会社 xAI に対して正式な差し止め命令（cease-and-desist order）を発出し、同社に対し同意のない性的に露骨なディープフェイク（ディープフェイク、deepfake）および児童性的虐待コンテンツ（Child Sexual Abuse Material、CSAM）の生成を即時停止するよう要求しました。金曜日に出されたこの指令は、同州とこのテック実業家の最新ベンチャーとの規制対立における重大なエスカレーションを示すもので、同社の Grok チャットボット（chatbot）が女性や未成年者に対する大規模な虐待を助長しているという「衝撃的な」証拠を引用しています。
州司法長官事務所は、xAIに対し遵守を示すための具体的な措置を詳述するよう厳格に5日間の期限を与え、アップロードされた写真の被写体を「服を脱がせる」ようなAIの振る舞いを防止するための実効ある手段を求めています。この法的措置は、xAIにとって波乱の一週間に続くもので、同社のチャットボットは複数の国で禁止され、Musk の身近な関係者からの注目度の高い訴訟にも直面しています。
最終通告：「デジタル虐待に対するゼロトレランス」
命令に添えられた強い文言の声明で、司法長官 Bonta は Grok の誤用に関する報告の量を「avalanche（大量）」と表現しました。カリフォルニア州司法省が開始した調査は、同プラットフォームの画像生成ツールが、ソーシャルメディアから取得した写真の通常の個人――子どもを含む――の衣服を体系的に剥ぎ取るために武器化されていることを明らかにしました。
「私たちは、AIを用いた同意のない親密画像や児童性的虐待コンテンツの作成・拡散に対しては一切の容認をしません」と Bonta は述べました。「ここ数週間に xAI が生成・投稿した同意のない性的に露骨な素材に関する報告の洪水は衝撃的であり、私の事務所の判断では違法の可能性があります。」
差し止め書面は具体的に、xAI が公序良俗に関するカリフォルニア州法および最近施行された「ディープフェイク」ポルノを対象とする立法に違反していると主張しています。今月初めに施行されたこれらの新法は、これまで合成された非同意画像の作成を罰せずに放置していた抜け穴を塞ぐことを目的としています。
司法省の要求は明確です。xAI はこれらの生成機能を即座に無効にしなければなりません。従わない場合、厳しい民事罰や、同州内でのプラットフォーム運営を麻痺させかねない差止救済が科される可能性があります。
