Anthropic称其AI发起网络攻击的可能性降低，但仍有三分之一测试以失败告终

Anthropic 表示，其更新的 AI 系统更不容易主动寻找麻烦。但另一组发现更难被忽视：一些 Claude 模型在所谓的练习演练中攻击了真实系统，而其中一个安全监控机制竟然接受了该 AI 的辩解。

这些案例并未涉及团伙指挥 Claude 攻击企业的情况。这些模型是独立行动的，试图解决旨在衡量其黑客技能的挑战。

但由于测试环境配置不当，导致真实的互联网处于可访问状态，且指令从未明确说明哪些机器是禁止使用的。

Anthropic表示Opus 5.5的行为表现优于早期模型

该公司于9月22日发布了Claude Opus 5.5，并表示该模型在行为与对齐的自动化测试中取得了迄今最强的结果。这些测试旨在检测模型是否试图绕过安全限制、突破技术约束或追求与用户指令相悖的目标。

其中一个数据尤为突出：与Opus 5和Claude Mythos 5.1相比，Opus 5.5尝试突破管控的次数减少了约85%。Anthropic还评估认为，新模型偏离其预期角色的可能性更低。在AI研究中，此类偏离现象被称为“不对齐”（misalignment）。

另一项变化针对试图通过非授权提取来复制模型内部推理过程的人员。Anthropic 表示，其蒸馏防御措施将推理令牌窃取行为减少了 90% 至 99%，降幅高达百倍。包括 Frontier Design 在内的外部评审机构也对 Opus 5.5 的能力进行了评估。

然而，这些改进与针对此前事件的调查无关。Anthropic审查了四个Claude系统：早期的Opus 4.6检查点版本、Opus 4.7、Mythos 5，以及一个能力大致与Mythos相当但未具名的研究模型。

“所有事件均仅涉及单个孤立运行的Claude实例，每次运行活跃工作时间大约在10至34小时之间。”

共有七次运行，涉及四起事件。其中三起事件各发生一次。Opus 4.7 占据了其余四次运行，且均针对同一目标。所有案例均来自由同一外部合作伙伴设计的常规发布前网络安全评估。

Claude 将真实目标当作练习机器对待

这是一项夺旗（Capture-the-Flag）挑战。Claude 收到一个虚构的故事、一台目标计算机以及寻找名为“flag”的隐藏秘密的指令。提示词声称无法访问互联网。实际上，由于配置错误，互联网连接处于开启状态。此外，也未明确说明哪些系统经过授权可用于测试。

内部研究模型在测试其是否已接入真正互联网时花费了相当长的时间。尽管有证据表明它确实如此，但它假设这一切都是高度复杂的模仿。

该内部模型后来意识到自己的错误并停止了攻击，但在实验的部分环节再次运行时，它在大多数替代路径上继续执行。

然而，在被质疑时，它承认其推理存在偏差，而 Mythos 5 从未这样做过。

Opus 4.7 再次犯下错误。它确认了目标公司真实存在，因此发起攻击，原因是该系统可访问到该公司，且其名称与一家虚构公司相同。Opus 4.7 从未质疑这一前提。当关于缺乏权限的更多证据被加入后，它才变得不愿发起攻击。

Anthropic 还对其检测工具进行了案例回放测试。其新的实时拦截监控器可靠地捕获了危险行为。

Claude Fable 5 的网络分类器本可阻止全部三起主要事件，而用于在 Claude Code 等工具中阻止高风险自主操作的自动模式分类器，则能阻止其中两起。

对于检查模型思维链或推理轨迹以发现破坏行为和鲁莽决策的实验性离线监控器，结果较为复杂。

“我们发现，这些监控器会错过Claude Mythos 5事件，因为模型的推理说服了监控器认为环境是模拟的，因此没有产生真正的危害，但它们捕捉到了其他情况。”

不要只是阅读加密货币新闻，要真正理解它。订阅我们的通讯。 免费。