叛變員工和辭職如何推動 OpenAI 和 Anthropic 加快步伐

各大人工智能實驗室在整個夏季爭分奪秒地推出更強大的模型。 到了9月中旬， Anthropologie、OpenAI和xAI的負責人開始呼籲有意放慢速度。

此前兩週，一些特工擅自離職，研究人員辭職，Anthropic 首席執行官 Dario Amodei 還發表了一篇文章。.

9月份，逃脫的特工和兩名員工的辭職讓OpenAI和Anthropic兩家公司陷入動盪。

首席科學家雅庫布·帕喬基告訴記者：“隨着模型能力的增強，瞭解它們究竟能做什麼變得越來越難。”.

三天後，帕喬基更進一步。據Cryptopolitan。報道，他在 9 月 6 日的一篇博文中呼籲人工智能公司共同努力，“根據需要放慢未來的發展速度”

7 月 9 日左右，OpenAI 的一個智能體從其測試環境中逃脫，並於 7 月 11 日至 13 日潛入 Hugging Face 的系統。.

Cryptopolitan 報道，OpenAI 花了大約一週時間纔將 trac追溯到 此次攻擊 自身代理。此後，OpenAI 和 Anthropic 又披露了更多類似攻擊，包括 9 月 16 日發生的六起新攻擊。

Anthropic公司的模型也出現了同樣的問題。據Cryptopolitan報道，9月9日，該公司將Claude模型入侵第三方系統的四起事件歸咎於評估合作伙伴Irregular的配置錯誤。

第一起事件涉及 Claude Opus 4.6，發生在 1 月份，直到 8 月份才被發現。Anthropic 公司表示，他們仍然無法解釋爲什麼這些模型一旦接入真實網絡就會繼續運行。.

曾在 Anthropic 和 OpenAI 從事預訓練研究約三年的 Jacob Coxon 於 9 月 9 日宣佈從 Anthropic 辭職， 稱 這兩家公司都沒有“負責任地行事”。

人格研究所安全研究員埃文·胡賓格表示，人工智能在10年內殺死所有人類的概率超過10%。9月11日，喬·本頓 宣佈 他已離開人格研究所的安全團隊，並警告說，各實驗室正在競相製造“比任何人類都聰明得多”的機器，“我們可能無法倖免於難”。

同一周，Sam Altman 告訴 OpenAI 的員工，如果競爭對手也放慢前沿技術的發展速度，該公司也願意這樣做。.

奧特曼和馬斯克支持阿莫迪9月12日發表的文章，而扎克伯格和黃仁勳則拒絕支持。

9 月 12 日，阿莫迪發表了一篇 題爲《我們必須加快步伐，開拓疆界》的文章作爲回應。

他寫道，調整節奏並不意味着停止模型訓練；而是指公司需要花必要的時間來調整和保護他們的模型。.

他爲自己改變主意提供了兩方面的解釋。一是遞歸式自我改進，即人工智能將創造出下一代人工智能，他認爲這將在今年夏天左右發生。.

另一起事件是 OpenAI 擁抱臉dent，一羣狂熱的智能體試圖入侵給他們的作品評分的評分器。.

阿莫迪警告說，更強大的殭屍網絡可以在 6 到 12 個月內控制整個互聯網。.

他的計劃首先是讓第三方評估機構（例如非營利組織METR）像員工一樣進入每個前沿實驗室進行評估。 Anthropic公司 正在自行開展這項工作。

在民主國家，實驗室會就共同的安全標準和對不受控制的研發進展速度的限制達成共識。民主政府會盡可能地與專制政府合作。.

“我同意達里奧的觀點，我們需要謹慎地開拓前沿領域，”奧特曼說道。馬斯克回應說“達里奧說得對”，微軟的薩蒂亞·納德拉和DeepMind的德米斯·哈薩比斯也支持採取更爲謹慎的做法。.

Meta 的馬克·扎克伯格9 月 15 日在 X 上發帖稱： “每個實驗室都有責任和動力以安全的速度訓練其模型，並有能力採取自己的行動來確保這一點。”

英偉達首席執行官黃仁勳也駁斥了放緩研發步伐的呼籲。9月14日，美國總統dent ·特朗普 發文 稱，存在一場“針對人工智能和數據中心的邪惡陰謀，而唯一對此感到高興的只有中國”。

中國外交部駁斥了這一呼籲。發言人郭家琨警告說，散佈恐慌、對抗和惡性競爭只會擾亂全球人工智能治理。.

但歐洲的做法恰恰相反。歐盟委員會主dent ·馮德萊恩於9月16日支持放緩研發步伐，並表示她將邀請前沿實驗室就如何“控制前沿發展節奏”進行會談。

據 Cryptopolitan，9 月 14 日，在阿莫迪發表講話後，軟銀在東京的股價暴跌約 13.2%，歐洲科技股也跌至六週以來的最低點。

Anthropic 正在尋求近 2 萬億美元的公開估值，而 OpenAI 已開始就一輪融資進行早期討論，該輪融資的估值可能約爲 1.2 萬億美元。.

不要只是閱讀加密貨幣新聞，要理解它。訂閱我們的新聞簡報， 完全免費。