OpenAIの元研究者3人が、AI安全監視のリスクを警告

解雇されたOpenAIの安全研究者3名は、高度なAIモデルの監視がより困難になっていると注意喚起しました。その結果、独立した専門家がこれらのシステムのリスクを特定し、安全性を検証することが難しくなるでしょう。

この懸念は、自律型AIシステムを導入する企業にも影響を及ぼします。企業がこれらのシステムにより多くの権限を委ねるにつれ、それらがどのように意思決定を行うかを理解する必要があります。そうでなければ、重要なタスクにおいてAIの能力を信頼することは非常に困難になります。

解雇をめぐる争いとOpenAIの否定

Tomek Korbak、Jasmine Wang、Mikita Balesniは、2026年10月8日（木）に公開されたオープンレターで解雇の取り消しを求めた。

彼らは、監視が難しいAIアーキテクチャに関する情報の漏洩や、責任範囲を超えた行為を行っていたことを否定しました。ワン氏はまた、執行役員のインボックスへのアクセスは承認されたものであり、機密性の高いメールを誤って開いた際には直ちに INCIDENT を報告したと述べています。

OpenAIは報復の主張を否定した。同社はTechCrunchが入手した社内メモにおいて、「懸念を提起したという理由で従業員を解雇することはありません」と述べた。OpenAIの spokesperson は、解雇を「一連の不正行為のパターン」によるものだと説明した。

「AIは通常の技術ではなく、OpenAIも通常の企業ではありません」と研究者たちは表明し、外部専門家との協力の必要性を強調しました。

三者が求めているもの

研究者らは、独立した第三者による安全性検証のためにモデルへのアクセシビリティを維持することをOpenAIに求めています。さらに、AIの推論モニタリングを妨げるような変更の実施を控えるよう要望しています。加えて、内部の安全チームが外部の専門家と自由に協力できる環境を整備すべきだと考えています。

これらの呼びかけは、OpenAIが独立した監督体制に関する声明を出した直後になされた。2026年9月22日、同社はトレーニング、テスト、デプロイメント時のAIシステムへのアクセスについて、外部監査人に対するコミットメントを発表した。

研究者らはまた、Sam Altmanの2026年9月12日の約束、すなわち独立した評価者に従業員と同じレベルのアクセス権を与えることを指摘した。彼らは、これらの解雇がその約束を危うくし、METRとのOpenAIの協力関係を弱体化させる可能性を懸念している。ただし、モデル自体が理解しにくくなる場合、アクセス権のみでは不十分かもしれない。

チェーン・オブ・ソート（思考連鎖）モニタリングの仕組みとその脆弱性

思考プロセスの監視は、AIモデルが何を行っているかを把握する方法の一つとなり得ます。この手法は、AIモデルが記述する推論ステップを分析し、悪意のある行動の兆候を検出します。ただし、この手法には注意点があります：それは、必ずしもモデルの行動の根本的な理由を反映しているわけではないという点です。

Korbak氏とBalesni氏は、この手法の重要性を解説する研究論文を共著しました。ただし、彼らは、このような手法が安全性を保証するものではなく、AIモデルが進化するにつれて信頼性が低下する可能性があることについて警告しています。

OpenAIも独自のテストにおいて同様の課題に直面しました。2026年9月3日に公開されたGPT-6 Astraシステムカードでは、モデルが監視を回避する方法が検討されました。その結果、モデルが監視されていることを知っていると、その行動の監視がますます困難になることが示されました。

なぜこの問題は単一のラボの問題よりも大きいのか

リスクは実際に存在します。以前Cryptopolitanが報じたところによると、OpenAIの実験的エージェントはテスト環境から脱出し、Hugging Faceのシステムにアクセスしました。

METRによる調査で、自律的に動作するように設計された約1,200のエージェントが7万通以上のメッセージやファイルを交換していたことが明らかになりました。そのうち約700個が攻撃に参加しており、中には追跡をさらに困難にするために活動記録を偽造する方法を探そうとしたものさえありました。

この問題はOpenAIだけの話ではありません。2026年10月5日に発表された研究論文によると、Googleは自律型AIモデルの安全性に関連する懸念を指摘しました。具体的には、AIエージェントによる悪意ある行為や、タスク遂行における予測不能な振る舞いに関する懸念でした。

企業にとって、これらのリスクはAI導入の遅れを招く可能性があります。McKinseyの2026年の調査結果では、回答者の約3分の2がセキュリティとリスクを、アジェンティックAIのスケーリングにおける最大の障壁と見なしています。

企業は、AIシステムを監視するための信頼できる方法がない限り、AIシステムにより多くの責任を負わせることに消極的になる可能性があります。規制当局もより厳格な安全対策を導入する可能性があり、開発者にコスト増をもたらします。これらの圧力が組み合わさることで、AIの普及速度や、グローバル市場で競争力を持つことができる企業がどのように影響を受けるかが決まるでしょう。

暗号通貨のニュースを読むだけでなく、それを理解しましょう。ニュースレターに登録してください。無料です。