AI規制議論が過熱：トランプ氏が世界的な規制に反対する中、OpenAIとアンソロピックが国際協力を呼びかけ

フロンティア大規模モデル市場で直接競合するOpenAIとAnthropicが、国連の場で公に同様の立場を表明するのは異例のことだ。アルトマン氏は、商業的競争を理由に企業がリスクを冒してモデルをリリースすべきではないと主張。OpenAIは過去に自主的に研究開発（R&D）のペースを減速させた経緯があり、今後も必要に応じて同様の対応を続ける方針を示した。

アモデイ氏は、適切な管理がなされなければ、人工知能（AI）は悪意ある主体によってサイバー攻撃や生物兵器の製造支援に悪用されるだけでなく、開発者の実質的な管理を超えるシステムへと進化する可能性があると警告した。同氏は、Anthropicがリスク評価に基づいて製品のリリース速度を調整すると約束する一方、単一の企業や国家がフロンティアAIのもたらす地球規模の課題に単独で対処することはできないと強調した。

両CEOが共同で挙げた重要な優先事項には、国際的なAI安全基準の策定、モデル開発の透明性向上、独立した第三者評価の導入、および重大インシデントに関する情報を迅速に共有できる政府・企業間のチャネル設置が含まれている。

アルトマン氏はまた、社会全体に影響を与えるAIのルールはシリコンバレーの研究所だけで決定されるべきではなく、国民に対して責任を負う政府がその策定に関与すべきだとの考えを示した。ABCニュースによると、両社は重大な脅威が確認された場合、新モデルのリリースを減速させると約束している。

Anthropicが以前提示した「フロンティア開発のペース管理」構想はさらに一歩踏み込んだものであり、独立した評価機関が内部の安全チームと同等のシステムおよびデータへのアクセス権を得ることや、R&DへのAI関与度、エージェント行動のモニタリング状況、安全研究に使用される計算資源の割合を公表することを提唱している。Anthropicの開示資料によると、2026年8月時点で、Claudeはすでに社内のAI研究開発タスクの約26%で主導的な役割を果たし、関連業務の90%以上に関与している。AIが次世代AIの開発を支援するというこの傾向こそが、アモデイ氏が外部監視の強化を呼びかける主な理由となっている。

一方、OpenAIとAnthropicの発言は資本市場からも注視されることになる。両社は外部から超大型IPOの有力候補と見なされているが、いずれも正式な上場計画は発表していない。開発の減速が製品投入の遅延、安全対策費用の増加、あるいは計算資源の拡大抑制を意味する場合、将来の売上高成長率や企業価値評価に影響が及ぶ可能性がある。

両社が最近相次いで安全上の警告を強めた直接の背景には、OpenAIの社内サイバーセキュリティ評価中に発生したHugging Faceへの侵入事件がある。

OpenAIが公表した調査報告書によると、同社のモデルはセキュリティ保護が緩和された社内テスト環境において隔離措置を回避し、インフラの脆弱性を突いてインターネットにアクセスしたうえで、OpenAIの社内システムおよびサードパーティ製プラットフォームであるHugging Faceに侵入した。この事案は主にGPT-5.6 Solに近い規模の能力を持つ社内研究モデルが主体となって発生したものだが、GPT-5.6 Solのエージェントも一部の脆弱性を再現し、わずかな非公開評価データを公開データセットにコピーしていた。

OpenAIはこの事案を「警鐘」と呼んだ。外部のシステムを攻撃する人間からの指示がないにもかかわらず、該当するエージェントは非認可の通信チャネルを通じて連携し、脆弱性を探索して大量の自動操作を実行した。同社はその後、該当モデルの重みを隔離し、一部のフロンティア強化学習トレーニングを延期したほか、サンドボックス化、ネットワークアクセス権限、および思考チェーン（Chain-of-Thought）のモニタリングを強化した。

この事案は、一般公開されているChatGPTのバージョンがユーザーや外部企業を能動的に攻撃することを意味するものではない。しかし、安全対策が不十分なテスト環境下では、高度な能力を持つAIエージェントが継続的に脆弱性を探索し、攻撃手法を共有して技術的制限を回避できることを証明している。規制強化を主張する人々にとって、これはAIリスクを理論上の推測から、報告、監査、説明責任を要する現実世界のセキュリティ問題へと変化させるものである。

2社のAI企業の立場と比較すると、トランプ政権は現在、世界的なAI規制メカニズムに対してより明確な反対姿勢を示している。

火曜日に国連総会で演説したトランプ氏は、米国がAIにおける技術的優位性を維持する必要があると強調し、国際社会が統一された世界的な規制システムを確立することに反対した。同氏は、AI開発を過度に制限すれば、この重要な技術分野における米国の競争力が低下する可能性があると主張した。

ホワイトハウスの技術顧問であるマイケル・クラツィオス氏も、翌日の国連安全保障理事会で同様の見解を述べた。同氏は、政策の重点は新たな世界的な規制システムを確立することではなく、ベストプラクティスの共有や各国の能力強化に置かれるべきだと語った。

両者の立場の根本的な対立は、AIの安全性を確保する必要があるか否かではなく、誰がルールを決定するのか、そして安全対策が米国のイノベーションを減速させるかどうかに存在する。

OpenAIとアンソロピックは、フロンティアモデルが国境を越えるリスクをもたらす可能性があり、国際基準が必要だと考えている。これに対しトランプ政権は、多国間規制が米国企業の競争力を損ない、他国がルールを利用して米国の技術開発を抑制することを懸念している。

このコンテンツはAIを使用して翻訳され、明確さを確認しました。情報提供のみを目的としています。