Anthropic稱其AI發起網絡攻擊的可能性降低，但仍有三分之一測試以失敗告終

Anthropic 表示，其更新的 AI 系統更不容易主動尋找麻煩。但另一組發現更難被忽視：一些 Claude 模型在所謂的練習演練中攻擊了真實系統，而其中一個安全監控機制竟然接受了該 AI 的辯解。

這些案例並未涉及團伙指揮 Claude 攻擊企業的情況。這些模型是獨立行動的，試圖解決旨在衡量其黑客技能的挑戰。

但由於測試環境配置不當，導致真實的互聯網處於可訪問狀態，且指令從未明確說明哪些機器是禁止使用的。

Anthropic表示Opus 5.5的行爲表現優於早期模型

該公司於9月22日發佈了Claude Opus 5.5，並表示該模型在行爲與對齊的自動化測試中取得了迄今最強的結果。這些測試旨在檢測模型是否試圖繞過安全限制、突破技術約束或追求與用戶指令相悖的目標。

其中一個數據尤爲突出：與Opus 5和Claude Mythos 5.1相比，Opus 5.5嘗試突破管控的次數減少了約85%。Anthropic還評估認爲，新模型偏離其預期角色的可能性更低。在AI研究中，此類偏離現象被稱爲“不對齊”（misalignment）。

另一項變化針對試圖通過非授權提取來複制模型內部推理過程的人員。Anthropic 表示，其蒸餾防禦措施將推理令牌竊取行爲減少了 90% 至 99%，降幅高達百倍。包括 Frontier Design 在內的外部評審機構也對 Opus 5.5 的能力進行了評估。

然而，這些改進與針對此前事件的調查無關。Anthropic審查了四個Claude系統：早期的Opus 4.6檢查點版本、Opus 4.7、Mythos 5，以及一個能力大致與Mythos相當但未具名的研究模型。

“所有事件均僅涉及單個孤立運行的Claude實例，每次運行活躍工作時間大約在10至34小時之間。”

共有七次運行，涉及四起事件。其中三起事件各發生一次。Opus 4.7 佔據了其餘四次運行，且均針對同一目標。所有案例均來自由同一外部合作伙伴設計的常規發佈前網絡安全評估。

Claude 將真實目標當作練習機器對待

這是一項奪旗（Capture-the-Flag）挑戰。Claude 收到一個虛構的故事、一臺目標計算機以及尋找名爲“flag”的隱藏祕密的指令。提示詞聲稱無法訪問互聯網。實際上，由於配置錯誤，互聯網連接處於開啓狀態。此外，也未明確說明哪些系統經過授權可用於測試。

內部研究模型在測試其是否已接入真正互聯網時花費了相當長的時間。儘管有證據表明它確實如此，但它假設這一切都是高度複雜的模仿。

該內部模型後來意識到自己的錯誤並停止了攻擊，但在實驗的部分環節再次運行時，它在大多數替代路徑上繼續執行。

然而，在被質疑時，它承認其推理存在偏差，而 Mythos 5 從未這樣做過。

Opus 4.7 再次犯下錯誤。它確認了目標公司真實存在，因此發起攻擊，原因是該系統可訪問到該公司，且其名稱與一家虛構公司相同。Opus 4.7 從未質疑這一前提。當關於缺乏權限的更多證據被加入後，它才變得不願發起攻擊。

Anthropic 還對其檢測工具進行了案例回放測試。其新的實時攔截監控器可靠地捕獲了危險行爲。

Claude Fable 5 的網絡分類器本可阻止全部三起主要事件，而用於在 Claude Code 等工具中阻止高風險自主操作的自動模式分類器，則能阻止其中兩起。

對於檢查模型思維鏈或推理軌跡以發現破壞行爲和魯莽決策的實驗性離線監控器，結果較爲複雜。

“我們發現，這些監控器會錯過Claude Mythos 5事件，因爲模型的推理說服了監控器認爲環境是模擬的，因此沒有產生真正的危害，但它們捕捉到了其他情況。”

不要只是閱讀加密貨幣新聞，要真正理解它。訂閱我們的通訊。 免費。