Amodei 感謝批評者 Calvin，Anthropic 改寫 AI 安全法案

週三，達里奧·阿莫德伊感謝批評家內森·卡爾文對Anthropic進行的審查，此前幾天卡爾文曾推動針對該公司泄露的AI安全法案的強烈反對聲浪。 

Anthropic距離其計劃的首次公開募股（IPO）僅餘數週時間，並已通過對承諾重寫法案部分內容的舉措來應對此次反彈。

什麼是AEGIS法案？

在X平臺的一篇帖子中達里奧·阿莫德伊表示，來自倡導組織Encode總法律顧問內森·卡爾文對泄露的AI安全法案——暫定名爲《人工智能評估、治理與事故安全法案》（AEGIS Act）——的批評出自“建設性且誠實的立場”。他補充道，公衆受益於那些專門負責審視AI實驗室的人員的工作，並感謝卡爾文。

安全倡導者一直將該法案與由衆議員傑伊·奧伯諾爾特和洛裏·特拉漢提出的兩黨《FRONTIER法案》相提並論，該法案於7月提出。

草案是 據報道更弱 在兩個方面不如兩黨《FRONTIER法案》。首先，它沒有爲檢查實驗室模型的第三方評估者設定標準或許可要求，允許他們自我認證；其次，它使得阻止危險模型變得更加困難。

LawAI的查理·布洛克警告稱，如果沒有許可制度，審計人員將競相提供最低價格下最輕的檢查。

卡爾文 走得更遠，表示該提案讓他“感到生理上的憤怒”，並且可能使法院在阻止前沿模型發展方面的權力比現行法律下的權力更小。加州參議員斯科特·維納是該州前沿人工智能法SB 53的作者，他在X上寫道，該計劃“遠遠不足以保護公衆健康和安全。”

根據草案，商務部 可以請求 聯邦法院暫停一個AI模型，但前提是存在明確的、近期的風險，可能導致超過50人死亡或嚴重受傷，或造成超過10億美元的損失。 

危害還必須源於生物武器、模型脫離製造者控制或網絡攻擊。其他機構將無法暫停模型運行。

該法案還將 抵消 部分關於披露、外部測試和事件報告的州法規，但保留了兒童安全和民權法律。被稱爲評估者的外部測試人員需在商務部註冊，實驗室需向其支付費用，前提是報酬不取決於測試結果。評估者必須在72小時內向商務部報告迫在眉睫的風險。

領導Anthropic聯邦事務團隊的Anthony Cimino將針對該法案的投訴分爲四類：優先適用性、模型屏蔽、風險閾值和更新。他承認優先適用性的措辭“不夠精確”，並承諾進行重寫。他表示，各州應在制定評估者標準以及決定何時必須關閉模型方面發揮作用。

Cimino表示，美元和損害限額取自加州法律，但他同意現在可能是時候對其進行審查了。他還指出，草案已允許法院阻止實驗室對危險模型的內部使用，而不僅僅是公開發布。此外，當模型失控並蔓延至外部系統時，還要求提交報告。

Anthropic的爭議會影響其IPO嗎？ 

Anthropic通過列出其已支付的昂貴安全工作來回應反彈。其 前沿安全路線圖, 該路線圖於10月19日更新，稱該公司在2027年1月1日的目標之前完成了內部紅隊測試目標。

其構建的自動化紅隊測試系統在來自生物武器賞金的所有24個問題分類器配對中匹配或擊敗了最佳人類表現，其中23項直接獲勝，並在24至48小時內完成，而人類研究人員需要數週或數月時間。

同一更新描述了關於推理驗證、隔離推理環境、數據中心物理安全和平臺安全的新工作。 

此外， Glasswing 項目 在Anthropic的一個未發佈模型發現數千個零日漏洞（包括OpenBSD中一個存在27年的缺陷）後，該公司已承諾向開源安全組織提供高達1億美元的使用額度和400萬美元的捐贈。 

Cryptopolitan 報道 該公司本月早些時候承諾將其5%的股份捐獻給公益基金。

然而，今年2月，Anthropic的RSP v3.0取消了舊有的暫停承諾，取而代之的是風險報告和非約束性路線圖。

Anthropic於6月向美國證券交易委員會（SEC）祕密提交了IPO申請，並尋求超過2萬億美元的估值，預計發行將在11月美國中期選舉之後進行。其招股書顯示，2025年出現420億美元的虧損，其中約340億美元爲會計費用，運營虧損擴大至80.6億美元。該文件還列出了未來十年內5180億美元的算力承諾，其中約80%是Anthropic無法取消的。

不要只是閱讀加密貨幣新聞，要真正理解它。訂閱我們的通訊。 免費。