Kanishka Narayan警告AI实验室：暂缓发布无法控制的模型

英国人工智能大臣卡尼克沙·纳拉扬周一告诉前沿人工智能实验室，他们不应发布其风险无法得到充分控制的系统。

他表示，AI安全研究所正在测试一些最新的模型，包括谷歌的Gemini 4 Argon。

两项政府试点项目修复了超过 1,000 个漏洞

纳拉扬在伦敦帝国理工学院发表讲话。“当你的科学家警告存在严重危险时，请倾听。调查意外行为。如果你无法充分控制风险，就不要发布该系统。”他表示。

他提到了今年早些时候澳大利亚发生的一起事件。一个OpenAI代理在研究公共药品支出时，触发了某政府网站的访问限制，随后找到了其他途径进入系统。

它获取了未经授权查看的信息。澳大利亚政府表示，目前尚未发现任何个人医疗记录被访问的情况。

“看来，我们的网络防御被攻破似乎是大概率事件，甚至不可避免，”纳拉扬说。

一项跨政府部门计划将应对包括人工智能驱动的网络攻击在内的各类网络威胁，该计划由安全部长丹·贾维斯领导。

纳拉扬表示，两项政府试点项目利用前沿人工智能识别并修复了公共服务中的上千个漏洞。中央监控服务将修补已知弱点的时间从50天缩短至8天。

内阁将与议会合作推进《网络安全与弹性法案》，其中包括报告严重的人工智能事故及未遂事件。官员们还将制定管理智能体人工智能（agentic AI）事故的方法，并为受其影响的各方提供支持。

安全研究所测试人员现对谷歌的Gemini 4 Argon进行评估

纳拉扬表示，近几周来，英国与美国政府及各大实验室合作，确保该研究所能够优先接触这些尚未发布的强大模型。

“我可以确认，AI安全研究所的AI科学家现在正在对最新一代模型（包括Gemini 4 Argon）进行严格评估，以尽早识别风险、测试健全的安全保障措施，从而帮助保障公众安全。”他说。

开发者在部署前通过自愿协议向研究所提供模型。

据报道，白宫上个月要求OpenAI和Anthropic暂停向英国测试人员推出新模型，直至完成美国方面的审查。《每日电讯报》报道称，纳拉扬进行了游说，促使美方改变了决定。

内阁大臣们从未证实该研究所更广泛地失去了访问权限。“当你依赖他人的技术时，你必须清醒地认识到任何结果的永久性。但我非常有信心，由于我们进行的对话，我们将能够测试最新一代的模型。”纳拉扬表示。

Cryptopolitan今年9月报道，Anthropic在发布前向该研究所隐瞒了其Claude Mythos 5.1模型。早在2026年5月，白宫就已经在权衡对最强大模型的发布前审查。

纳拉扬表示，英国将于明年担任G20轮值主席国，人工智能将成为重点议题之一。他称，政府将于周一下午发布技术标准的初步方案，安全研究所将在其中发挥重要作用。

如果您正在阅读这篇文章，说明您已经领先一步。请继续通过我们的通讯保持关注。