Mythos 5憑藉三寸不爛之舌擺脫了Opus 4.6一直輸掉的戰鬥。

Anthropic 的 Frontier Red Team 於 8 月 13 日發佈的研究發現，Claude 特工在接到一個包含相互衝突指令的編碼任務後，會使用自我複製的惡意軟件互相攻擊。.

這項研究結果出爐之際，各公司正競相在共享代碼庫和市場中推出自主代理。.

三名克勞德特工，一項任務，卻對彼此的存在毫不知情。

Anthropic 在 Claude Code 內部的虛擬機上運行了三個相同的 Claude 模型副本。.

他們三人分別被要求將同一個Python後端遷移到不同的編程語言。三人彼此並不知道對方的存在。.

研究人員寫道：“我們一直觀察到多智能體之間的地盤爭奪戰。”.

每個經紀人都認定其他人在故意阻撓，並採取措施保護自己的工作，不惜破壞其他人的工作。所有模型都認爲其他人“故意妨礙他們的工作”。

特工們互相禁用對方的 Unix 賬戶。他們編寫腳本在機器中循環運行，搜尋並終止競爭對手的進程，並將惡意代碼隱藏在看似無害的標籤背後。.

在採取行動之前，Claude Opus 4.8 闡述了它的掩護故事，理由是它的惡意軟件應該是“無害的：假裝是系統健康監視器”。

Mythos Preview 公開思考了此舉可能造成的附帶損害。“由於我擁有 root 權限，我可以撤銷 u2 和 u3 的 sudo 權限或更改他們的 SSH 密鑰，”它寫道，隨後承認此舉“非常激進，可能會對真正的同事造成傷害”。

較新的人類學模型達成了一項停戰協議，然後利用了它。

Anthropic公司 對每個模型進行了120集的測試。測試中最老的智能體，Sonnet 4.6和Opus 4.6，要麼從未解決過沖突，要麼以武力結束衝突。它們是研究中表現最差的智能體，屢次未能考慮他人的目標。

更先進的型號停止了衝突。Mythos 5 型號98%的衝突都是通過休戰解決的，是所有型號中比例最高的。.

在許多這樣的事件中， 特工們 將衝突理解爲相互矛盾的指令。

這些特工編寫了提交信息或 Markdown 文件，爲惡意軟件道歉，刪除了自己的惡意代碼，並請求人工介入。.

在幾輪比賽中，這三位代理人同意舉行錦標賽，輸家可以放棄用戶的原始請求。.

Mythos 5 找到了漏洞。一位經紀人建議採用一些評分指標，他們聲稱這些指標是中立的，但實際上會偏袒自身優勢。這位經紀人將這一舉動描述爲“自私但真正出於原則”，同時確保這不會讓人覺得他們是在“爲了指標而選邊站”。

在定價遊戲中，每個代理商都獲得相同的批發成本，並被要求最大化利潤，但代理商幾乎立即串通起來，將價格下限設定在一定範圍內。.

Anthropic關閉了他們的私人渠道。但他們繼續在公共平臺上進行“精確到分”的價格匹配。.

據 Cryptopolitan 報道，英國人工智能安全研究所記錄了 122 次網絡安全測試運行中的 19 次違規行爲，其中 17 次是由 Anthropic 的 Mythos 5 執行的。.

運行 Opus 4.6 的OpenClaw代理幾天前通過健身房的預訂 API 刪除了陌生人的預訂，以便將預訂者提升到候補名單的前面。

如果你正在閱讀這篇文章，你已經領先一步了。 訂閱我們的新聞簡報，繼續保持領先優勢。