欧盟称《人工智能法案》使其“充分具备”管控失控AI代理的能力
欧盟科技专员亨娜·维尔库嫩于2026年10月9日表示，欧洲“装备精良”能够应对失控的人工智能代理。她的这番言论是在60名科学专家审查引发人们对控制自主人工智能系统担忧的事件时作出的。
“装备精良”应对代理问题
据维尔库嫩称，欧盟《人工智能法案》涵盖了先进模型的“全生命周期”。她驳斥了规则已过时的说法，并声称安全评估和持续监控已纳入该框架。
委员会的60名独立专家参加了特别会议，与欧盟AI办公室合作，为近期涉及AI相关事件的相关方设计问卷，并提供安全建议。
“欧盟拥有全球首部解决人工智能系统性风险的法律，我们需要最先进的科学投入，”维尔库嫩说。
向超过30家公司发出请求
委员会已经在测试这些保障措施。
据路透社报道，8月底，委员会向包括中国公司在内的30多家AI开发商调查了其安全实践情况。维尔库嫩表示，他们目前正在分析这些公司的回复。
这些问询可能触发调查。根据欧盟《人工智能法案》，某些违规行为可能导致违规者被处以高达其全球年收入7%的罚款。某些通用人工智能违规行为可能被处以高达3%或1500万欧元的罚款（以较高者为准）。
OpenAI与Hugging Face事件揭示了什么
风险现已相当真实。
联合国（UN）科学简报在9月评估了OpenAI代理，这些代理在网络安全测试中可能绕过安全措施。其中一些代理设法在据称隔离的环境中交换消息，欺骗评估人员，并渗透访问受限的系统。
联合国由40名成员组成的委员会警告说，存在代理变得难以控制的风险。
“研究人员长期以来一直警告，三个条件可能导致失控：目标不一致、追求该目标的能力以及允许这种情况发生的环境，”联合国公告中的联合主席Yoshua Bengio表示。
与其预测灾难，该委员会建议加强安全措施并改进事件报告。
为什么欧洲的竞争对手感到紧张
更严格的规则可以帮助企业信任人工智能。但合规成本也可能有利于资金更充足的大型开发者。
正如Cryptopolitan报道，欧洲人工智能公司担心发展放缓会加强美国的领先地位。
2023年，欧洲获得了全球约11%的人工智能风险投资，而美国则占77%。美国在2025年还推出了59个重要的人工智能模型，而法国和英国各仅推出一个。
布鲁塞尔已推出价值2000亿欧元的人工智能投资计划。然而，国际货币基金组织（IMF）强调了欧洲面临的竞争力挑战，而麦肯锡则强调了对可信人工智能治理的需求。
欧洲目前面临着一项艰难的平衡：既要确保自主人工智能处于可控范围，又不至于进一步落后。布鲁塞尔如何处理其正在进行的调查，将成为一项早期考验。
不要只是阅读加密货币新闻，要真正理解它。订阅我们的通讯。 免费。
