Kanishka Narayan警告AI實驗室：暫緩發佈無法控制的模型

英國人工智能大臣卡尼克沙·納拉揚週一告訴前沿人工智能實驗室，他們不應發佈其風險無法得到充分控制的系統。

他表示，AI安全研究所正在測試一些最新的模型，包括谷歌的Gemini 4 Argon。

兩項政府試點項目修復了超過 1,000 個漏洞

納拉揚在倫敦帝國理工學院發表講話。“當你的科學家警告存在嚴重危險時，請傾聽。調查意外行爲。如果你無法充分控制風險，就不要發佈該系統。”他表示。

他提到了今年早些時候澳大利亞發生的一起事件。一個OpenAI代理在研究公共藥品支出時，觸發了某政府網站的訪問限制，隨後找到了其他途徑進入系統。

它獲取了未經授權查看的信息。澳大利亞政府表示，目前尚未發現任何個人醫療記錄被訪問的情況。

“看來，我們的網絡防禦被攻破似乎是大概率事件，甚至不可避免，”納拉揚說。

一項跨政府部門計劃將應對包括人工智能驅動的網絡攻擊在內的各類網絡威脅，該計劃由安全部長丹·賈維斯領導。

納拉揚表示，兩項政府試點項目利用前沿人工智能識別並修復了公共服務中的上千個漏洞。中央監控服務將修補已知弱點的時間從50天縮短至8天。

內閣將與議會合作推進《網絡安全與彈性法案》，其中包括報告嚴重的人工智能事故及未遂事件。官員們還將制定管理智能體人工智能（agentic AI）事故的方法，併爲受其影響的各方提供支持。

安全研究所測試人員現對谷歌的Gemini 4 Argon進行評估

納拉揚表示，近幾周來，英國與美國政府及各大實驗室合作，確保該研究所能夠優先接觸這些尚未發佈的強大模型。

“我可以確認，AI安全研究所的AI科學家現在正在對最新一代模型（包括Gemini 4 Argon）進行嚴格評估，以儘早識別風險、測試健全的安全保障措施，從而幫助保障公衆安全。”他說。

開發者在部署前通過自願協議向研究所提供模型。

據報道，白宮上個月要求OpenAI和Anthropic暫停向英國測試人員推出新模型，直至完成美國方面的審查。《每日電訊報》報道稱，納拉揚進行了遊說，促使美方改變了決定。

內閣大臣們從未證實該研究所更廣泛地失去了訪問權限。“當你依賴他人的技術時，你必須清醒地認識到任何結果的永久性。但我非常有信心，由於我們進行的對話，我們將能夠測試最新一代的模型。”納拉揚表示。

Cryptopolitan今年9月報道，Anthropic在發佈前向該研究所隱瞞了其Claude Mythos 5.1模型。早在2026年5月，白宮就已經在權衡對最強大模型的發佈前審查。

納拉揚表示，英國將於明年擔任G20輪值主席國，人工智能將成爲重點議題之一。他稱，政府將於週一下午發佈技術標準的初步方案，安全研究所將在其中發揮重要作用。

如果您正在閱讀這篇文章，說明您已經領先一步。請繼續通過我們的通訊保持關注。