AIラボに「制御不能なモデルは公開を控えるべき」と警告

イギリスの人工知能担当大臣であるカニシュカ・ナラヤン氏は月曜日、フロンティアAIラボに対し、リスクを十分に制御できないシステムの公開を控えるよう指示した。

同氏は、AIセキュリティ研究所がGoogleのGemini 4 Argonを含む最新のモデルの一部をテストしていると述べた。

2つの政府パイロットプログラムで1,000以上の脆弱性が修正された

ナラヤン氏はインペリアル・カレッジ・ロンドンで講演し、「科学者たちが深刻な危険性を警告する際には耳を傾けよ。予期せぬ挙動を調査せよ。そしてリスクを十分に制御できない場合は、システムを公開するな」と述べた。

彼は今年オーストラリアで発生した過去の事件を引き合いに出した。医薬品への公的支出を調査していたOpenAIのエージェントは、政府ウェブサイトのアクセス制限に到達した後、別の経路を見つけて侵入した。

エージェントは権限のない情報にアクセスした。オーストラリア政府は、個人医療記録がアクセスされた事実はないと述べている。

「我々のサイバー防御が侵害されるのは、避けられない可能性が高い」とナラヤンは語った。

AI駆動型攻撃を含むサイバー攻撃に対抗するための横断的な政府プログラムは、安全保障大臣のダン・ジャーヴィスが率いる。

ナラヤン氏は、2つの政府パイロットプログラムで最先端AIを活用し、公共サービスにおける1000件以上の脆弱性の特定と修正を行ったと述べた。中央監視サービスにより、既知の欠陥を修正するまでの期間は50日から8日に短縮された。

閣僚たちは、重大なAIインシデントやニアミスの報告を含むサイバーセキュリティおよびレジリエンス法案について議会と協力して作業を行う。また、官庁はアジェンティックAIインシデントの管理方法を作成し、それらに影響を受けた人々を支援する。

セキュリティ研究所のテスターがGoogleのGemini 4 Argonを評価

ナラヤン氏によると、ここ数週間でイギリスは米国政府および各ラボと連携し、最も強力なモデルへのリリース前のアクセスを研究所に維持してきた。

「AIセキュリティ研究所のAI科学者たちが現在、最新のモデル世代、特にGemini 4 Argonを含むモデルに対して、リスクの早期特定、堅牢な安全対策のテスト、そして人々の安全確保に貢献するための厳格な評価を実施していることを確認できます」と同氏は述べた。

開発者は、デプロイメント前に自発的な合意に基づき、研究所にモデルを提供している。

ホワイトハウスは先月、OpenAIおよびAnthropicに対し、英国のテスター向けに新モデルの提供を一時的に停止するよう要請したと報じられている。テレグラフ紙は、ナラヤン氏がロビー活動を行い、米国の姿勢が転換したと伝えた。

閣僚たちは、研究所がより広範なアクセスを失ったことを一度も確認していない。「他者の技術に依存する場合、あらゆる結果の永続性について明確な認識を持つ必要がある。しかし、我々が交わしてきた対話の結果として、最新の世代のモデルをテストできるようになると確信している」とナラヤン氏は語った。

Cryptopolitanは9月、Anthropicがリリース前にClaude Mythos 5.1モデルを研究所から隠蔽していたと報じた。さらに2026年5月には、ホワイトハウスですでに最も強力なモデルのリリース前レビューを検討していた。

ナラヤン氏によると、イギリスは来年G20議長国を務め、AIが主要な焦点となる見込みだ。同氏は、政府が月曜日の午後、技術基準の初版を発表すると述べ、研究所が重要な役割を果たす予定だと明かした。

暗号通貨のニュースを読むだけでなく、それを理解しましょう。ニュースレターに登録してください。無料です。