Anthropic警告：失控AI模型或很快能在家庭設備間自我複製

Anthropic的前沿紅隊表示，緊湊型AI模型可能僅需數月時間即可在廉價的、聯網的家庭智能設備上實現自我複製，而無需依賴數據中心。研究人員警告稱，這一場景將極難控制，因爲這些模型沒有中央控制系統，因此難以被關停。

該研究文章於10月12日發表在Anthropic官網上，對於任何在家中或小型企業中使用智能家電的用戶來說，這都令人擔憂。

15臺廉價電視盒子，一個26十億參數的模型

研究人員William Zhou和Daniel Freeman通過將15個非品牌Android電視盒子連接起來運行Gemma4-26B-A4B模型（擁有260億參數），展示了潛在風險。每個盒子的成本約爲55美元，配備4GB內存。研究人員使用一種稱爲流水線並行的技術，將該模型的各層分佈到這些設備上。

這組包含15款不同Android盒子的設備總共僅能產生每秒0.39個token的速度，對於任何實際用途的聊天機器人來說都過於緩慢。然而，研究人員指出，自我傳播的蠕蟲病毒並不一定需要在單臺機器上高速運行，事實上，它更受益於能夠覆蓋大量設備。

他們還提到了Kimwolf殭屍網絡，該網絡感染了超過兩百萬臺主要是非品牌Android電視，以此爲例說明許多安全防護薄弱的設備在用戶家中如同待宰的羔羊。

測試中的任何模型都無法在保持足夠小巧以在智能電視上運行的同時可靠地複製自身到其他設備。研究人員預計，如果輕量級開源模型繼續以當前速度發展，這一差距將在2026年底之前縮小。

四步複製過程及一個成功實現該目標的模型

Anthropic將複製過程分爲四個不同階段。這些階段包括確定目標、獲得執行代碼的能力、配置推理，然後從每個新感染的設備重複該過程。

研究人員在很大程度上擱置了初始入侵步驟，引用早期研究表明小型模型已經能夠執行網絡攻擊。相反，他們專注於配置推理的第三階段，這涉及一系列耗時的硬件特定決策。

爲了測試整個流程，研究人員搭建了一個由八個Google Cloud節點組成的隔離網絡，每個節點都運行一個Android模擬器。預加載的蠕蟲通過未受保護的Android調試橋（ADB）端口在節點間傳播，隨後建立服務器以運行Llama3.1-8B。在測試的開源模型中，只有由中國Z.ai開發的GLM-5.2完成了完整的複製週期，在五次運行中的四次成功抵達所有八個節點。

隨着模型在代際間傳播，它們自我部署的成功率不斷提高。當90億參數的Qwen3.5-9B模型實例將部署說明傳遞給其後續版本時，成功率從第一代時的45%提升至後續各代的61%至84%之間。

Anthropic解釋爲何去中心化蠕蟲難以清除

正如Anthropic所解釋的，在此場景中，原始速度並非主要關注點。Anthropic估計，在電視盒子上配置26B模型需要71到150小時。更大的風險在於其持久性，由於沒有中央服務器或人工操作員來關閉它，該系統可能避開通常的遏制和禁用方法。

路易斯維爾大學的AI與網絡安全專家Roman V. Yampolskiy表示，這些發現具有重要意義。Yampolskiy指出，基於AI的蠕蟲能夠超越傳統惡意軟件，通過對陌生設備進行推理、在方法失效時自適應調整，並在無需人工干預的情況下持續傳播。

儘管他目前不認爲它們構成存在性威脅，但他警告稱其發展令人擔憂。

周和弗里曼在Anthropic的文章中寫道：‘家庭和小企業物聯網設備可能是此類攻擊的首要目標，因爲它們已連接到互聯網，並且歷史上安全措施極爲薄弱。’

防禦者仍佔優勢

Anthropic將這種防禦比作疫情管控，目標是使每臺設備引發的平均新增感染數低於1。互聯網服務提供商可以標記異常龐大的模型傳輸或設備間持續通信，而蜜罐則可用於捕獲蠕蟲代碼。

該報告引用了英國禁止智能設備使用默認密碼的做法，認爲這是減少攻擊者可利用的易受攻擊設備數量的有效方式。

Anthropic還表示，目前尚未觀察到功能正常的惡意複製器，並將現有證據描述爲“生命跡象”。該公司發佈了這項研究，並附帶一項單獨聲明，稱新的安全措施已將蒸餾攻擊減少90%至99%。

不要只是閱讀加密貨幣新聞，要真正理解它。訂閱我們的通訊。 免費。