xAI社、未成年者の露骨なディープフェイク動画をめぐりGrokユーザーを提訴

イーロン・マスク氏率いるxAIは、サウスカロライナ州の男性をテキサス州の連邦裁判所に提訴した。男性は、同社のチャットボット「Grok」を使って未成年者の性的に露骨なディープフェイク動画を作成したとして告発されている。AI企業が自社プラットフォームで生成されたコンテンツをめぐって、自社ユーザーを訴えるのはこれが史上初となる。.

ロイター通信によると、被告のテリー・ハーウッドは2月に未成年者への性的搾取の容疑で逮捕された。xAIの民事訴訟は4月14日火曜日に提起され、今後、この逮捕から派生する刑事事件と並行して進められることになる。.

xAIの訴訟

訴状によると、彼はdentを使って複数のアカウントを開設し、大人と子供の通常の写真をAIツールに入力した後、それらの画像を性的なコンテンツに変換するよう指示する文章を作成したという。アルジャジーラによると、これらの行為に使用された被写体は同意しておらず、自分の写真が使用されていることを知らなかった。.

xAIは、システムがこの行為に抵抗したと主張している。Grokは要求を拒否し、コンテンツルール違反としてフラグを立てた。訴状によると、ハーウッドの対応は、プロンプトを書き直して何度も試みることだったという。.

ロイター通信が引用した訴状によると、xAIは「被告の行為は、原告のツールを犯罪目的で悪用し、実際の被害者を深刻かつ永続的な被害にさらすための計画的な企てだった」と述べている。同社はまた、被告が成人の同意のない性的画像を制作したとも主張している。

AI企業は訴訟提起において、裁判所に対し2つのことを要求した。1つは具体的な金額は明示されていないものの、金銭的損害賠償を求めること、もう1つはハーウッド氏が今後一切Grok製品を使用することを禁じる命令である。.

xAIは、この提出書類の中で、悪質な行為者に対する取り締まり活動の規模についても明らかにした。同社によると、今年52,222件のアカウントを停止し、73,604件の報告を全米行方不明・被虐待児童センターに送付した。これらの報告は、2026年に少なくとも244人の逮捕につながったという。.

グロックは引き続き広範な監視下に置かれている

xAIは、今回の件が持ち上がる前から、Grokがどのようなコンテンツを生成するのかという点で既に批判にさらされていた。欧州の規制当局はAIツールを精査しており、ワシントンの議員らも複数の懸念を表明している。アルジャジーラに よる。

イーロン・マスク自身は今年初め、根本的な問題を否定した。「Grokによって生成された未成年者の裸の画像は一切知りません。文字通りゼロです」と、彼は Xに書き込んだ 。

Grokによって生成された未成年者の裸の画像については、私は一切知りません。文字通りゼロです。.

もちろん、Grokは画像を自発的に生成するのではなく、ユーザーのリクエストに応じてのみ生成します。.

画像生成を求められた場合、動作原理として違法なものは生成しない… https://t.co/YBoqo7ZmEj

— イーロン・マスク (@elonmusk) 2026年1月14日

最近制定された「 DEFI法」と呼ばれる法的手段も、こうした訴訟件数の増加につながっている。2024年に署名されたこの法律は、同意なしに作成された親密なディープフェイクの被害者が訴訟を起こせるようにするもので、いくつかの州では同様の趣旨の法律が個別に制定されている。.

この記事を読んでいるあなたは、既に一歩先を行っています。 ニュースレターを購読して、その優位性を維持しましょう。