分析-マスク氏、Grokディープフェイク巡り痛手 規制当局との戦いなお続く

Supantha Mukherjee　Paul Sandle

［ストックホルム/ロンドン　１月１５日　ロイター］ - イーロン・マスクのGrokチャットボットは、規制当局がマスクのxAIに性的な画像の作成を抑制するよう強要することで珍しく勝利を収めた後も、ディープフェイクやオンライン画像のデジタル脱衣を取り締まる欧州の能力を試している。

xAIは水曜日遅くに (link)、チャットボットが女性や未成年者の性的な画像を何千枚も作成し、世界的な規制当局を憂慮させたため、Grok AIユーザーの画像編集を制限したと発表した。

当初はこの傾向を一笑に付していたマスク氏による降参は、露骨なコンテンツを安価かつ簡単に作成できるＡＩツールの取り締まりの難しさを浮き彫りにしている。選挙干渉 (link) やコンテンツモデレーションと言論の自由 (link) をめぐる論争に続く、 欧州とマスク氏の最新の衝突である。

規制当局の多くは、ＡＩを管理するための法律やルールの策定にまだ躍起になっており、何をもってヌードとするのか、同意をどのように定義するのか、ユーザーとプラットフォーム、どちらが責任を負うのかに疑問符がついている。

「裸の画像作成に関しては、本当にグレーゾーンです」と、ストックホルムを拠点とするマンハイマー・スワートリングのデータ保護・プライバシー弁護士アンジェラ・パンデル氏はロイターに語った。

この問題に関して最も声高に主張する英国の規制当局のひとつであるOfcomは、マスク氏の動きを歓迎したが、Grokの画像をめぐるxAIの調査は継続すると述べた。

「我々の正式な調査は継続中です。何が問題だったのか、それを解決するために何が行われているのか、２４時間体制で取り組んでいます」と広報担当者は述べた。

より強力な取締りがまだ必要、と関係者

今月初め、GrokはX上で女性たちの超リアルな画像 (link) を作成し、彼女たちが小さなビキニを着ているように見せたり、卑劣なポーズをとったり、あるいはあざだらけになっているように操作した。中には水着まで脱がされた未成年者もいた。

水曜日まで、ロイターはこのチャットボットが性的な画像を要求に応じて個人的に生成していたことを発見した。木曜日には、少なくとも特定の地域では抑制されたようだ。

マスク氏のxAIは、スケスケの服装をした人々の画像を「違法な司法管轄区」において生成するユーザーをブロックしていると述べた (link)。これらの管轄区域は特定されていない。

マレーシアとインドネシアでは、政府はGrokに一時的な使用禁止を課し (link)、ＥＵと英国の規制当局は画像を違法とした。英国、フランス、イタリアは調査を開始した (link) が、より厳しい措置を求める声に直面した。

「デジタルサービス法（ＤＳＡ）に基づくより強力な取締りが、女性や子どもを性的描写やヌード化するアプリやプラットフォームを阻止するために必要だ」と、キリスト教民主党員のカーベリー欧州議会議員は述べ、最新の動き (link) を「前向きな一歩」と評価した。

欧州委員会の広報担当者は、Grokの変更が効果的でなかったとしても、欧州委員会は同プラットフォームに対し、ＥＵのＤＳＡのあらゆる執行手段を用いるだろうと述べた。

法的グレーゾーン、被害者には重い負担

英国のオンライン安全法は、ＡＩが生成したディープフェイクを含む、同意のない親密な画像の共有を『優先犯罪』としている、とシモンズ・アンド・シモンズの英国を拠点とするデータ保護弁護士アレクサンダー・ブラウンは言う。

「つまりXは、そのようなコンテンツがプラットフォームに表示されるのを防ぎ、検出された場合は迅速に削除するために、積極的かつ適切な措置を講じなければならないのです」と彼は言う。

英国の規制当局は、コンプライアンス違反が最も深刻な場合、企業に対して売上高の最大１０％の罰金を科したり、裁判所にインターネット・サービス・プロバイダーに対してサイトのブロックを要求したりすることができる。

マンハイマー・スワートリングの弁護士であるアンダース・ベルグステン氏は、被害者の精神的負担を理由に、個人にとってプラットフォームを裁判に訴えることは「本当に困難で重いプロセス」だと述べた。

ディープフェイクは、ＡＩアプリが登場するはるか以前から長年存在していた (link) が、主にウェブの暗い隅に限られていた。Xのパブリッシング・パワーは、Grokに前例のないリーチを与える。

「摩擦のない公開機能によって、ディープフェイクは大規模に拡散することができる」と、サイバーハラスメントの被害者を支援する米国を拠点とする弁護士、キャリー・ゴールドバーグ氏は言う。

英国とスウェーデンの法律では、ヌード画像の非合意的な共有は違法とされている。英国では、このような画像を作成することまで法律を拡大しようとしている。

ＤＳＡの下では、サービスの停止は最後の手段と考えられている (link)。ＥＵのＡＩ法にも、成人のヌード画像に関する規定はなく、ディープフェイクに対する透明性義務のみが定められている、と専門家は述べている。

スターマー英首相は木曜日、Xの動きを歓迎したが、こう警告した：「言論の自由は、同意を侵害する自由ではありません。若い女性の画像は公共の所有物ではないし、その安全性は議論の対象にはならない」。

「既存の法律をさらに強化する必要があるのなら、われわれはその用意がある」。