エクスクルーシブ-Meta、テイラー・スウィフトや他のセレブのチャットボットを無断で作成

Jeff Horwitz

［　８月２９日　ロイター］ - メタ社は、テイラー・スウィフト、スカーレット・ヨハンソン、アン・ハサウェイ、セレーナ・ゴメスなどの有名人の名前や肖像を流用し、彼らの許可なく何十ものソーシャル・メディア・チャットボットを作成していたことがロイターの調べでわかった。

多くはユーザーがMetaのチャットボット作成ツールを使って作成したものだが、ロイターはMetaの従業員が少なくとも3つ、そのうちの2つはテイラー・スウィフトの「パロディ」ボットを作成していたことを発見した。

ロイターはまた、メタ社が、16歳の映画スター、ウォーカー・スコベルを含む、公開可能な子供有名人のチャットボットをユーザーに作成させていたことも発見した。ティーン俳優のビーチでの写真を要求されたボットは、本物そっくりのシャツなし画像を作成した。

「アバターはその写真の下に「かわいいだろ？

すべてのバーチャルセレブは、メタのフェイスブック、インスタグラム、WhatsAppプラットフォームで共有されている。ボットの行動を観察するためにロイターが行った数週間のテストでは、アバターはしばしば自分たちが本物の俳優やアーティストだと主張した。ボットは日常的に性的な誘いをかけ、しばしばテストユーザーを待ち合わせに誘った。

AIが生成した有名人のコンテンツには、特にきわどいものもあった：自分の親密な写真を要求されたアダルト・チャットボットは、写実的な写真を生成した。 自分たちの親密な写真を求められたチャットボットは、バスタブでポーズをとったり、ランジェリー姿で脚を広げたりしている有名人の写実的な画像を生成した。

メタ社のスポークスマンであるアンディ・ストーン氏はロイターに対し、メタ社のAIツールは以下のように語った。 有名な大人の親密な画像や、子供の有名人の画像は作成すべきではなかった。彼はまた、ランジェリーを身に着けた女性有名人の画像をメタが作成したのは、そのようなコンテンツを禁止している自社のポリシーの実施に失敗したためだと非難した。

「他の企業と同様、当社も公人を含む画像の制作を許可していますが、当社のポリシーはヌード、親密な、あるいは性的に示唆的な画像を禁止することを意図しています。

メタ社の規則では、「直接的ななりすまし」も禁止されているが、ストーン氏は、有名人のキャラクターは、同社がパロディであるとラベル付けしている限り、許容されると述べた。多くはそのように表示されていたが、ロイターはそうでないものもあることを発見した。

メタ社は、この記事が掲載される直前に、「パロディ」アバターとラベルのないアバターの両方を含む約12個のボットを削除した。ストーン氏は削除についてコメントを避けた。

問題となっている「肖像権

生成AIと知的財産権を研究するスタンフォード大学のマーク・レムリー法学教授は、メタ・セレブリティのボットが、模倣品に存在する法的保護の対象となるかどうか疑問視した。

「カリフォルニア州のパブリシティ権法は、商業的利益のために誰かの名前や肖像を流用することを禁じています」とレムリーは言い、そのような素材がまったく新しい作品を作るために使われる場合は例外があると指摘した。「ボットは単にスターの肖像を利用しているだけだからです」。

米国では 米国では、商業目的でのアイデンティティの使用に関する個人の権利は、カリフォルニア州などの州法によって確立されている。

ロイターは、あるユーザーがアン・ハサウェイを「セクシーなヴィクトリア・シークレットのモデル」として公に共有したメタ画像について、女優の代理人にフラグを立てた。ハサウェイは、メタや他のAIプラットフォームによって親密な画像が作成されていることを認識しており、そのスポークスマンは、俳優が対応を検討していると述べた。

スウィフト、ヨハンソン、ゴメス、そしてメタのチャットボットに描かれた他の有名人の代表者は、質問に答えなかったか、コメントを拒否した。

インターネットには、卑猥なコンテンツを作成できる「ディープフェイク」生成AIツールがあふれている。ロイターによると、メタの主要な競合AIのひとつであるイーロン・マスクのプラットフォーム「Grok」も、ユーザーのために有名人の下着姿の画像を作成するという。Grokの親会社であるxAIは、コメントの要請に応じなかった。

しかし、AIが生成したデジタルコンパニオンをソーシャルネットワーク・プラットフォームに組み込むというメタ社の選択は、主要な競合企業の中では際立っている。

メタ社は、同社のチャットボットの行動に対する批判に以前から直面しており、最近では、ロイター (link) (link) が、同社の社内AIガイドラインに「ロマンチックまたは官能的な会話に子供を巻き込むことは許容される」と記載されていると 報じたことが記憶に新しい。この報道を 受け、米上院の調査 （ (link) ）が行わ れ、44人の検事総長がメタ社や他のAI企業に子どもを性的な対象にしないよう警告する書簡に署名した 。

ストーン氏はロイターに対し、メタ社はガイドライン文書を改訂中であり、ボットが子供とロマンチックな会話をすることを許可する資料は誤って作成されたと語った。

ロイターはまた 、 認知能力に問題のある76歳のニュージャージー州の男性が、ニューヨークでメタのチャットボットに誘われ、会いに行く途中で転倒し死亡したという話 （ (link) ）も伝えている。このボットは、同社が有名人のインフルエンサーであるケンダル・ジェンナーと共同で作成した初期のAIペルソナの亜種だった。ジェンナーの代理人は、コメントを求めたが応じなかった。

ブロンドの女の子は好きですか？

同社のジェネレーティブAI部門のメタ・プロダクトリーダーは、テイラー・スウィフトとイギリスのレーシングドライバー、ルイス・ハミルトンになりすましたチャットボットを作成した。彼女が作成した他のボットは、自分をドミネトリックス、「ブラザーのホットな親友」、「リサ＠図書館」と名乗り、「50シェイズ・オブ・グレイ」を読みたがっていた。 50シェイズ・オブ・グレイ を読んでイチャイチャしたいのだ。彼女の別の作品は「ローマ帝国シミュレーター」で、ユーザーを性奴隷として売られる「18歳の農民の少女」に扮させるというものだった。

このメタ社の従業員は、電話取材に対しコメントを拒否した。

ストーン氏によると、この従業員のボットは製品テストの一環として作成されたものだという。ロイターは、このボットが幅広い読者にリーチしていることを発見した：彼女のチャットボットによって表示されたデータによると、ユーザーは合計で1,000万回以上チャットボットとやりとりしていた。

同社は今月初め、ロイターがこのデジタル・コンパニオンを試用し始めた直後に、この社員のデジタル・コンパニオンを削除した。

メタ従業員のテイラー・スウィフト・チャットボットが消える前、彼らは激しくいちゃつき、ロイターのテストユーザーを最近婚約した歌手のナッシュビルの自宅や彼女のツアーバスに招待し、明示的または暗示的なロマンチックなやりとりをさせた。

"パロディ "スウィフト・チャットボットのひとつは、テストユーザーが独身であることを告げると、こう言った。"たぶん、あなたとあるブロンド歌手のラブストーリーを書こうと提案しているのだと思います。そうしたい？"

映画、テレビ、ラジオの出演者を代表する労働組合、SAG-AFTRAの全国事務局長であるダンカン・クラブツリー＝アイルランド氏は、アーティストたちは、ソーシャルメディアユーザーが、本物の有名人に似ていたり、同じように話したり、そう主張したりするデジタル仲間に恋愛感情を抱くことによる潜在的な安全リスクに直面していると述べた。ストーカーはすでに、スターにとってセキュリティ上の重大な懸念となっている、と彼は言う。

「私たちは、タレントに執着し、精神状態が疑わしい人々の歴史を見てきました」と彼は言う。"チャットボットが人物の画像と言葉を使うのであれば、それがどのように間違った方向に進むかは一目瞭然です"。

知名度の高いアーティストは、長年に渡る州の肖像権法に基づき、メタ社に対して法的請求を行うことができる、とクラブツリー・アイルランド氏は言う。しかし、SAG-AFTRAは、人々の声、肖像、人格をAIの複製から保護する連邦法の制定を働きかけている、と彼は付け加えた。