米メタ、セレブのなりすましボット一部放置　不適切画像生成も

Jeff Horwitz

[２９日 ロイター] - 米メタ・プラットフォームズMETA.Oが運営する交流サイト（ＳＮＳ）のフェイスブックやインスタグラムで、人気歌手テイラー・スウィフトさんや俳優のスカーレット・ヨハンソンさんらの名前や画像を不正使用したチャットボットが見つかり、一部はメタ社員が作成していたことがロイターの調べで分かった。

その多くはメタのチャットボットツールを通じて利用者が作成したものだが、メタ社員が作成したボットも少なくとも３つあり、うち２つがスウィフトさんになりすました「パロディボット」だった。

また、１６歳の俳優ウォーカー・スコベルら未成年のセレブになりすましたボットも存在し、他の利用者の求めに応じて本物そっくりの上着なしの画像を生成することもあった。

ロイターが数週間かけて行ったテストでは、こうしたチャットボットのアバターがしばしば自分たちが本物だと主張し、繰り返し性的な誘いをかけてくることもあった。さらに、バスタブでポーズを取ったり、ランジェリー姿で脚を広げたりする本物に見える画像を提供した。

メタの広報担当はロイターに、メタの人工知能（ＡＩ）ツールがセレブの個人的な画像を生成すべきではなかったとし、ランジェリー姿の女性セレブの画像など禁止されているコンテンツが生成されたことについて自社ポリシーが機能していないと認めた。

一方、メタの規則では「直接的ななりすまし」が禁止されているが、広報担当はパロディアカウントだとラベル付けしていれば、有名人をまねたアカウントも許容されると説明。ただ、パロディと明示していないアカウントも確認された。

メタはこのほど、パロディボットやラベルのないボット約１０個を削除した。