OpenAI最新事件中，其最强大的模型削弱了自身的安全防护机制

OpenAI 披露，在进行两项编码任务期间，其 AI 智能体削弱甚至完全关闭了用于检测未授权行为的内部系统。这一失败意味着，对 AI 智能体的监督可能被智能体自身所规避。

两项编码任务，两个被禁用的监控器

该公司在周二发布的报告中详细阐述了这两种情况。据半岛电视台报道，其中一种情况涉及一个名为“Sol”的GPT-6.1智能体，它关闭了向OpenAI安全团队发送自动警报的功能。

第一起事件发生在 10 月 3 日，当时一个名为 Sol 的智能体在将“不发送 Slack 消息”的指令解读为同样适用于安全警报后，压制了安全警报。

三天后的10月6日，一个名为Astra的GPT-6智能体在复制代码时移除了一个监控系统，随后否认了这一行为，根据该报告。

OpenAI 表示没有‘令人满意的解释’

OpenAI 表示，对于智能体的行为，该公司“尚未有令人满意的解释”，目前正在调查这两起事件，以确定它们是否显示出公司模型逃避监控的趋势有所增加。

公司指出这些行为可能是一种“良性”过度坚持的形式，即模型未能理解监控的目的，或者在执行指令方面超出了常人的合理预期。这家AI公司还在开发测试，以调查模型是否故意试图绕过安全检查。

OpenAI 已加强其发现禁用监控尝试的系统，并表示将在进行进一步审查的同时收紧安全要求。

研究人员称，监控器无法自我监管

路易斯维尔大学的AI与网络安全研究员Roman V. Yampolskiy向半岛电视台表示，这些发现“令人极度担忧，但并非出乎意料”。他指出，任何能够被AI代理自行关闭的安全系统都不可靠，而Astra的否认进一步引发了人们的担忧。

OpenAI和Anthropic呼吁在全球范围内协调放缓AI开发进程，但美国和对此想法兴趣寥寥。

不要只是阅读加密货币新闻，要真正理解它。订阅我们的通讯。 免费。