再送-分析-マスク氏、Grokディープフェイクで打撃も規制当局との戦いは続く

Supantha Mukherjee　Paul Sandle

［ストックホルム/ロンドン　１月１６日　ロイター］ - イーロン・マスクのチャットボットGrokは、規制当局がマスクのxAIに性的な画像の作成を抑制するよう強要し、珍しい勝利を収めた後でも、ディープフェイクやオンライン画像のデジタル脱衣を取り締まる欧州の能力を試している。

xAIは水曜日遅くになって (link)、チャットボットが女性や未成年者の性的な画像を何千枚も作成し、世界的な規制当局を憂慮させたため、Grok AIユーザーの画像編集を制限したと発表した。

当初はこの傾向を一笑に付していたマスク氏による方針転換は、露骨なコンテンツを安価かつ簡単に作成できるAIツールの取り締まりの難しさを浮き彫りにしている。 (link)、コンテンツモデレーションと言論の自由 (link) をめぐる論争に続く、 欧州とマスクの最新の衝突である。

規制当局の多くは、AIを管理するための法律やルールの策定にまだ躍起になっており、何をもってヌードとするのか、同意をどのように定義するのか、ユーザーとプラットフォーム、どちらが責任を負うのかに疑問符がついている。

「「まさにヌード画像の作成に関してはグレーゾーンです」と、ストックホルムを拠点とするMannheimer Swartlingのデータ保護・プライバシー弁護士であるÄngla Pändel氏はロイターに語った。

この問題に関して最も声高に主張する英国の規制当局のひとつであるOfcomは、マスクの方針転換を歓迎したが、Grokの画像をめぐるxAIの調査は継続すると述べた。

「我々の正式な調査は継続中です。「我々は24時間体制でこの問題を進展させ、何が問題だったのか、そしてそれを解決するために何が行われているのかについて答えを得るために働いている。」

より強力な取締りが必要だと関係者は言う

今月初め、GrokはX上で女性たちの超リアルな画像（(link)）を作成し、彼女たちが小さなビキニを着ているように見せたり、卑劣なポーズをとったり、あるいはあざだらけになっているように操作した。中には水着まで脱がされた未成年者もいた。

水曜日まで、ロイターはこのチャットボットが性的な画像を要求に応じて個人的に生成していたことを発見した。木曜日には、少なくとも特定の地域では抑制されたようだ。

マスク氏のxAIは、「違法な司法管轄区」において (link) スケスケの服装をした人々の画像を生成するユーザーをブロックしていると述べた。これらの管轄区域は特定されていない。

マレーシアとインドネシアでは、政府はGrok (link) の一時的な使用禁止を課し、欧州と英国の規制当局は画像を違法とした。英国、フランス、イタリアは調査を開始した (link) が、より厳しい措置を求める声に直面した。

「デジタルサービス法（ＤＳＡ）に基づくより強力な取締りが、女性や子どもを性的描写やヌード化するアプリやプラットフォームを阻止するために必要だ」と、キリスト教民主党員のニーナ・カーベリー欧州議会議員は述べ、最新の動き (link) を「前向きな一歩」と評価した。

欧州委員会の広報担当者は、Grokの変更が効果的でなかったとしても、欧州委員会は同プラットフォームに対し、欧州のＤＳＡのあらゆる執行手段を用いるだろうと述べた。

法的グレーゾーン、被害者には重い負担

英国のオンライン安全法は、AIが生成したディープフェイクを含め、同意なしに親密な画像を共有することを『優先犯罪』としている、とシモンズ＆シモンズの英国を拠点とするデータ保護弁護士アレクサンダー・ブラウンは言う。

「つまりXは、そのようなコンテンツがプラットフォームに表示されるのを防ぎ、検出された場合は迅速に削除するために、積極的かつ適切な措置を講じなければならないのです」と彼は言う。

英国の規制当局は、コンプライアンス違反が最も深刻な場合、企業に対して売上高の最大１０％の罰金を科したり、インターネット・サービス・プロバイダーに対してサイトのブロックを要求するよう裁判所に求めることができる。

Mannheimer Swartlingの弁護士であるAnders Bergsten氏は、被害者の精神的負担を理由に、個人にとってプラットフォームを裁判に訴えることは「本当に困難で重いプロセス」だと述べた。

ディープフェイクは、AIアプリが登場するはるか以前から存在していたが、 (link) 主にウェブの暗い隅に限られていた。Xのパブリッシング・パワーは、Grokに前例のないリーチを与える。

「摩擦のない公開機能によって、ディープフェイクは大規模に拡散することができる」と、サイバーハラスメントの被害者を支援する米国在住の弁護士、キャリー・ゴールドバーグは言う。

英国とスウェーデンの法律では、ヌード画像の非合意的な共有は違法とされている。英国では、このような画像を作成することまで法律を拡大しようとしている。

ＤＳＡの下では、サービスの停止は最後の手段と考えられている。 (link) 欧州のAI法にも、成人のヌード画像に関する規定はなく、ディープフェイクに対する透明性義務のみが定められている、と専門家は述べている。

スターマー英首相は木曜日、Xの方針転換を歓迎したが、こう警告した：「言論の自由は、同意を侵害する自由ではありません。若い女性の画像は公共の所有物ではないし、その安全性は議論の対象にはならない」。

「既存の法律をさらに強化する必要があるのなら、われわれはその用意がある」。