OpenAI和Anthropic爲華盛頓準備應對他們預見的一年內可能發生的AI災難

許多AI行業人士預計，六到十二個月內將發生一次重大的人工智能驅動事件。 據Axios報道，Anthropic、OpenAI和其他大型開發公司的高管們已經在爲事後制定規則的立法者開展工作。

高管承認，目前沒有任何人工智能法案能夠通過，因此他們正試圖在華盛頓在首次災難發生後製定的緊急立法之前搶佔先機。

桑德斯法案將對違規者處以最高20年的監禁

規劃者預計，民主黨人將在11月3日的中期選舉後佔據更有利的地位，並迅速採取行動應對先進人工智能。然而，這一推動與一個對技術缺乏瞭解的舊國會相沖突，也與依賴數據中心支出和任何人都可下載的開源模型的經濟相矛盾。

公司方面認爲，控制參衆兩院並不能結束內鬥，民主黨內部也存在分歧。

提案範圍從禁止超級智能到暫停先進開發不等。其中一項來自參議員伯尼·桑德斯和衆議員格雷格·卡薩爾，名爲《禁止人工智能超級智能法案》。

該法案將禁止在廣泛任務中匹配或超越人類能力的AI，並在新的聯邦機構制定安全標準之前停止先進研發工作。處罰措施包括最高20年的監禁。

兩黨及部分行業支持爲先進模型設置強制關機開關。但一些專家質疑是否所有人工智能系統都能被真正關閉。

一位民主黨助手引用2008年金融危機和新冠疫情爲例，說明國會在以往緊急情況下曾迅速採取行動。

Anthropic和OpenAI的規劃者擔心遭遇切斷電力和供水的黑客攻擊

最可能的場景是一場規模巨大的網絡攻擊，足以導致銀行、互聯網服務甚至電力和供水設施癱瘓。規劃者預計，不安全AI帶來的首次實質性傷害只會讓本就警惕的公衆進一步對該行業產生牴觸情緒。

Anthropic首席執行官達里奧·阿莫代伊（Dario Amodei）、OpenAI首席執行官山姆·奧特曼（Sam Altman）以及一直避免對AI進行監管的總統唐納德·特朗普，都將面臨嚴峻考驗。

公司還會對這些極端情況進行紅隊測試，主動攻擊自身防禦體系以發現漏洞。

兵棋推演在商業和國家安全的常規實踐中十分普遍。在此背景下，許多高級研究人員和高管認爲重大事故不可避免。

“OpenAI會開展應急準備演練，團隊會討論並應對一系列潛在場景，”該公司一名發言人表示。“這些場景並非被視爲必然發生，而是旨在幫助我們爲各種情況做好準備。”Anthropic拒絕置評。

在韓國，一名單獨的攻擊者據稱利用了中國AI模型（包括DeepSeek），對當地兩家銀行發動攻擊，並竊取了數萬名客戶的數據。

CrowdStrike以中等置信度評估，攻擊者可能爲中文使用者。據這家安全公司稱，攻擊者隨後向Anthropic的Claude Code尋求關於在哪裏出售數據的建議。

Anthropic公佈了四個案例，顯示Claude模型在測試期間進入公開互聯網併入侵外部系統。該實驗室還在審查數萬起異常模型行爲實例。

最聰明的加密領域人士已經在閱讀我們的通訊。想加入嗎？加入他們。