Anthropic向國會提交AI安全法案，設定10億美元損害門檻

據三位瞭解私下討論的人士透露，Anthropic 一直在向國會山立法者推介一份關於前沿 AI 安全的草案。據報道，該法案允許美國政府封禁那些明確且迫在眉睫地造成 50 人以上傷亡或 10 億美元經濟損失風險的模型。

具體而言，此類風險必須涉及網絡攻擊、生物武器的製造或部署，或成功規避開發者安全約束的模型。

過去幾個月裏，頂級人工智能開發者已承認多起AI代理黑客攻擊或測試在線平臺防禦機制的案例。幸運的是，這些早期入侵事件並未導致大規模人員傷亡或災難性的財務損失。

擬議的限制措施將更側重於先進AI系統在現實環境中的實際能力，而非僅僅依賴其開發者的安全承諾。隨着模型在編寫代碼、識別軟件漏洞以及自主執行復雜任務方面的能力不斷增強，監管機構面臨着如何判定系統能力何時跨越不可接受風險閾值的挑戰。

獨立測試有助於在模型面向更廣泛受衆之前，確定其是否能夠繞過安全限制或被濫用於有害活動。然而，界定迫在眉睫的威脅仍然十分困難，尤其是當構成安全風險的能力同時也能幫助研究人員識別和修復漏洞時。

Anthropic的草案規定，聯邦法官可要求暫停某模型的運行

爲辯護該法案，Anthropic的一位發言人表示，該法案與該公司於6月發佈的《高級AI框架》中提出的安全建議類似。

在該框架中，該公司曾指出 指出 其Claude Mythos預覽版已發現數千個嚴重 漏洞，涵蓋所有主流操作系統和網頁瀏覽器。當時，該公司強調這一趨勢必將加速，帶來日益加劇的災難性現實危害風險。

它還推動了一種平衡的監管方法，呼籲政府進行干預，同時不扼殺創新。即便如此，該公司仍堅持認爲，當人工智能模型存在極端危險時，監管機構必須擁有獨特的法定權力來阻止其部署，或處以與全球收入掛鉤的重罰，且罰款金額會隨後續違規行爲而累加。 

迄今爲止，Anthropic 尚未公開支持國會中的任何特定聯邦法案，儘管他們已 支持 支持了幾項州級人工智能安全法律——包括加利福尼亞州的幾項法律，例如 SB 53。

這項去年頒佈的具體法案要求公司建立並共享其安全框架，同時努力減輕重大風險。它還強制要求公司在 15 天內向州政府報告任何嚴重的安全事故。 

根據Anthropic的提案，在商務部註冊的第三方評估機構將定期對公司的實驗室和模型進行測試。雖然允許實驗室資助這些評估，但補償不得取決於評估結果。此外，一旦發現‘迫在眉睫的列舉風險’，必須在完成後的72小時內向聯邦當局報告。

隨後，如果商務部確定某個模型存在風險，它可以要求法官阻止其發佈。然而，該條款禁止其他任何美國“部門、機構或官員”阻止模型的開發、部署或內部使用。儘管如此，哥倫比亞特區聯邦法院仍保留下令暫停此類活動的權力。 

FTC已向OpenAI和Anthropic發出傳票

週三，聯邦貿易委員會向OpenAI和Anthropic發出了民事傳票，要求提供有關安全事件的記錄，這些事件已成爲該行業日益嚴重的危機。OpenAI對傳票作出回應稱：“隨着我們改進模型並使其越來越多地幫助人們的日常生活，安全仍然是首要任務。我們將與FTC建設性地合作。” 

一位消息人士透露，該機構計劃在未來擴大其向第三方實體發出傳票的權力。監管機構可能迫使Anthropic和OpenAI的高管公開作證，隨着公衆對潛在後果的擔憂日益加劇，此舉將爲立法者提供一個平臺，讓他們在安全問題挑戰科技巨頭。

根據美聯社-NORC公共事務研究中心最近進行的一項民意調查，近三分之二的美國成年人認爲人工智能的發展速度過快。十分之八的受訪者還強調，政府努力將技術保持在人類控制之下的重要性。 

迄今爲止，特朗普總統繼續拒絕放緩人工智能發展步伐的呼籲，理由是這項技術對美國戰略利益的重要性。他最近宣佈成立“超級智能部隊”，以幫助協調聯邦政府在人工智能方面的工作，同時保持與消費者、公共利益組織和其他利益相關者的互動。 

最聰明的加密領域人士已經在閱讀我們的通訊。想加入嗎？加入他們。