OpenAIが偽シンクタンクを理由にロシア関連のChatGPTアカウントを閉鎖

OpenAIは、ロシアと関連のあるChatGPTアカウントのネットワークを閉鎖した。.

同社が水曜日に発表したところによると、これらのアカウントはチャットボットを利用して、フランシス・フクヤマ氏やノーム・チョムスキー氏を寄稿者として含む偽の「専門家コミュニティ」を作り上げていたという。.

36記事のうち34記事は他の場所からのものだった

これらのアカウントは、国際バーク研究所（IBI）を宣伝するために開設されたものだった。同研究所はイスラエルに拠点を置き、著名な学者たちがスタッフとして所属していると主張していた。.

OpenAIの報告書によると、同社のウェブサイトは2025年2月に開設された。7月中旬までに同社が宣伝したメンバーには、 福山氏 や チョムスキー氏 とする著名な学者が含まれていた。

OpenAIの研究者たちは、2025年9月から2026年5月の間に投稿された、IBIのいわゆる専門家によるものとされる36本の記事を調査した結果、そのうち34本が他の場所から転載されたものであることを発見した。.

中国・パキスタン経済回廊に関する記事があり、これはブラッドフォード大学のユナス・サマド氏がケンブリッジ大学出版局から出版した出版物を基にしたものだったが、IBIはそれをノッティンガム大学の南アジア政治学者キャサリン・アデニー氏の署名で掲載した。.

移民政策研究所に掲載された移民ガバナンスに関する記事は、オーストラリアの食品科学教授の署名入りで発表された。.

アカウントマネージャーはロシア語でプロンプトを入力していたが、ほとんどの場合、出力は英語で要求していた。OpenAIは、彼らがモデルに対し、テキストの背後にロシア人がいたことを示す言語的な証拠をすべて削除するように指示していたことを発見した。.

同社はロシア国内からのアクセスを遮断しているため、通信事業者はVPNを使用してサービスにアクセスしていた。.

ChatGPTが生み出したのは、ソーシャルメディア上の埋め草だった。投稿や返信は、読者をX、LinkedIn、Facebook、Substack、Telegramといったプラットフォーム上のIBIの記事へと誘導した。.

中にはIBIの名前とロゴが入ったプロフィールもあった。また、一般ユーザーを装ったアカウントもあり、そのフィードを見ると、IBIへのリンクばかりが羅列されていた。.

これらのアカウントは、Substack上の無関係な投稿にも返信し、それぞれ読者にIBIチャンネルをフォローするよう促した。.

ドイツ語の誤訳が表紙を破った

OpenAIは、今回の取り組みは、ウクライナ戦争開始以来同社が解体してきたロシア関連の作戦よりも複雑であるものの、その規模は小さいと述べた。.

ロシアを称賛し、西側諸国政府を批判する「主権指数」がその基盤となっていた。.

ドイツに関するある記事では、「スヴェトフォル連合」という表現が使われていたが、これはスラヴ語で信号機を意味する言葉であり、ネイティブの書き手であれば「信号機連合」と表現しただろう。

OpenAIは、それをスラヴ語の原文から逐語的に機械翻訳することを意味すると解釈した、と報告書の中で述べている。.

別のドイツのテレグラムチャンネル「Lahme Ente」（レームダック）は、ウクライナ、EU、ベルリンを攻撃する投稿を出し、モスクワとの関係強化を呼びかけた。.

リンクされたTelegramチャンネルの中には、それぞれ2万人ものフォロワーを抱えているものもあったが、個々の投稿へのアクセス数はほとんどなかった。.

2月、 Cryptopolitan 、ある当局者がChatGPTを業務日誌として使用したことで、中国の影響力工作が露呈したと報じた。

OpenAIは、国家主体がこのモデルを新たな攻撃ではなく、日常的なタスクに利用する事例を何度も目撃してきた。

2024年には、モスクワを称賛し、ウクライナとNATOを攻撃する投稿を生成していた、ロシアと関連のある別のネットワーク「ドッペルゲンガー」を妨害した。.

仮想通貨ニュースを読むだけでなく、理解を深めましょう。ニュースレターにご登録ください。 無料です。