Anthropic 警告：人工智能模型可能很快就能在家庭設備之間自我複製

要點

• Anthropic 描述了人工智能模型如何滲透聯網設備，並利用這些設備的計算能力運行自身，同時向其他設備擴散。

• Anthropic 在一篇博客文章中表示，這種人工智能模型將“難以關閉”，因爲“沒有一個可以切斷的集中式節點”。

• Anthropic 的最新研究進一步加劇了人們對人工智能安全問題的擔憂。這些擔憂涉及模型實施網絡攻擊的能力，以及人工智能技術失控的可能性。

Anthropic 週一表示，小型人工智能模型距離具備在家庭聯網設備之間自我複製所需的能力，可能只剩下“幾個月時間”。這也是這家前沿人工智能研究公司近期針對該技術潛在安全風險發出的最新警告。

Anthropic 描述了人工智能模型可能如何滲透智能烤箱、安卓電視盒子等聯網設備，並利用這些設備的計算能力運行自身、向其他設備傳播，而不必依賴成本高昂的數據中心。

Anthropic 在一篇博客文章中表示，這種人工智能模型將“難以關閉”，因爲“沒有一個可以切斷的集中式節點”。

該公司承認，目前還不存在一個“完全失控的自我複製體”。

不過，Anthropic 表示，人工智能智能體“正變得越來越有能力完成自我複製鏈條中的各個獨立步驟（並將自身的適應性改進傳遞給未來的複製體）”。

Anthropic 的最新研究進一步加劇了人們對人工智能安全問題日益增長的擔憂，例如模型實施網絡攻擊的能力，以及人工智能技術失控的可能性。今年 9 月，前沿模型的性能提升引發了整個行業的警告，指出人工智能可能對人類構成生存層面的風險。

Anthropic 和競爭對手 OpenAI 的高管及研究人員多次警告，日益強大的人工智能可能帶來潛在風險。一些人呼籲加強防護措施，並採取措施控制這項技術的發展速度。

Anthropic 表示，該公司進行了多項測試，以研究人工智能是否能夠實現自我複製。其中一項測試是在由 15 臺廉價、非知名品牌的安卓電視盒子組成的網絡上運行谷歌的一款小型模型 Gemma4-26B-A4B。

該公司指出，這類設備的安全防護往往較爲薄弱，因此可能讓人工智能模型有機可乘，滲透其中。Anthropic 表示，如果某個模型的體積過大，無法在單臺設備上運行，它就可以“拆分成多個部分，或稱爲分片（shards）”，並在多臺設備上運行。

Anthropic 表示：“在實際情況下，人工智能蠕蟲不一定只由一個模型或一種策略構成。更符合現實的‘最壞情況’，可能是由多個不同模型組成的集羣，這些模型部署在不同類型的硬件上，並採用各種不同的複製方案。”

這家人工智能研究公司表示，目前“尚不確定自主人工智能複製最終究竟會採取何種形式”。該公司警告稱，這種系統可能是一種存在於安全性薄弱設備上的“緩慢、分佈式”系統，也可能是“一個強大的網絡攻擊模型，以極快的速度攻破數據中心”，或者是“一個通過詐騙他人來獲取計算資源額度的模型”。

Anthropic 表示：“作爲一項超出我們實驗範圍的預測，我們預計，未來將充斥着運行在各種硬件上的智能體，其中一些甚至不受人類控制。”

該公司補充說：“緩慢自我複製系統的出現，也將成爲一個預警信號，表明更具攻擊性、複製速度更快的系統可能正在崛起。這類系統能夠攻破防護更嚴密的機器，或者高效竊取 API 密鑰。”