Anthropic警告：AI自研AI或超越安全邊界並擾亂市場
人工智能正在承擔創建更強大模型所需的更多任務。Anthropic 宣稱 Claude 已經確保了這一過程更加快速，儘管它仍然無法自行創建繼任者。該公司在 6 月 4 日的一份評估中表示，人工智能的進步帶來了技術直接超越安全檢查和監管監督的風險。
當AI構建自身時，它尚未意味着什麼
然而，Claude 尚未達到遞歸自我改進的水平，即人工智能無需任何人工輸入即可創建並訓練其繼任者。根據 Anthropic的說法，目前尚無系統實現這一能力。
儘管Claude並未擁有完全自主權，但它已能承擔Anthropic大部分編碼工作。截至2026年5月，Claude已爲公司軟件項目貢獻了超過80%的代碼。在2026年第二季度，一名典型工程師每日提交的代碼量是2024年的八倍。
這些數據展示了編碼產出的增長幅度，但並不一定反映實際完成的有效工作量。METR 引用的一項針對 349 名技術人員的 調查發現，在使用 AI 工具後，他們自評的工作價值中位數爲原來的 1.4–2 倍。
26%由Claude主導，其中沒有任何一部分是完全自主的
Claude 的功能已不僅限於編寫代碼。Anthropic 的 8 月數據顯示，它在 26% 的人工智能研發任務中處於主導地位，而 2 月份這一比例不到 1%。Claude 參與或主導了超過 90% 的工作，但人類始終參與其中。所有被評估的工作均未完全自主完成。
Anthropic的研究與METR調查衡量的是不同的內容。Anthropic追蹤的是藉助AI系統完成的代碼生成和研究工作，而METR則衡量員工對其工作價值提升的主觀感知。然而，這兩項研究均未表明AI是否具備確定哪些研究問題需要解決的能力。
即使沒有任何單一模型實現自我改進，這種效應仍可能不斷累積放大
人工智能無需完全自主也能加快研究速度。根據 RAND 10 月報告，AI 代理可以在不專注於創建自身繼任者的情況下構建更強大的模型。它們已經可以通過訪問敏感模型和代碼對安全構成威脅。
據METR的經濟學家稱，可能會因數據可用性、計算能力和開展實驗研究的能力等因素而受到限制。然而，他們並未否定AI發展持續加速的可能性
關鍵在於獨立的安全審查能否跟上AI驅動實驗的步伐。否則，在完全自主性到來之前很久，監管就可能滯後。
從追逐前沿到管控前沿
這一擔憂促使Anthropic首席執行官達里奧·阿莫迪呼籲放緩開發速度並引入獨立評估機構。他在九月文章中寫道：
“我們必須減緩提升AI模型能力的速度。”
OpenAI在9月16日的披露中詳細說明了六起令人擔憂的模型行爲案例。Cryptopolitan也報道了科技界領袖之間關於是否應放緩AI開發的分歧。
但就安全問題達成共識並不保證會採取行動。CSIS警告稱，外部評估者必須避免利益衝突。政府也必須防範監管俘獲。行業範圍內的協議仍充滿不確定性。
資金流向算力
這場辯論同樣涉及巨大的經濟利益。斯坦福2026年人工智能指數顯示，2025年私人AI投資增長了127.5%。美國的投資額是中國的23倍。經合組織也警告稱，芯片、雲基礎設施和數據的獲取仍然高度集中。這就形成了一個悖論：雖然AI可能使研究性編程的成本降低，但訓練和測試先進模型仍需鉅額投入。因此，更快的開發速度可能會讓領先實驗室相對於較小的競爭對手獲得更大的優勢。
最聰明的加密領域人士已經在閱讀我們的通訊。想加入嗎？加入他們。
