參議院法案將把前沿人工智能安全確立爲一項法律義務，而非一項承諾。

據路透社報道，美國參議院談判代表正在考慮一項立法，該立法將從法律上要求最先進的人工智能模型的開發者防範災難性危害，並可能賦予聯邦政府阻止不安全發佈模型的權力。

對於頂尖人工智能公司而言，這將使安全標準從主要依靠自願行爲轉變爲法律義務。更廣泛的市場問題是，更嚴格的監管究竟會增強消費者和投資者的信任，還是僅僅會鞏固少數有能力承擔監管費用的公司的利益。.

從自願承諾到“關懷義務”

據路透社報道，該提案旨在爲前沿人工智能模型開發者設立所謂的“注意義務”。爲此，目前正在考慮多項具體條款。該提案包括以下要求：開發者必須設計能夠最大限度降低災難性風險的人工智能模型；美國政府保留阻止不安全人工智能模型的權利；允許對政府決定提起上訴；以及國家實驗室和政府合作伙伴參與人工智能測試。該提案的效力可能高於某些州現行的相關立法。.

據路透社報道，從事前沿人工智能開發的美國科技公司包括谷歌（Alphabet）、Anthropic 和 OpenAI。.

參與會談的有參議院多數黨領袖約翰·圖恩、商務委員會主席特德·克魯茲和參議員艾米·克洛布查爾，參議員瑪麗亞·坎特韋爾也參與其中。.

克洛布查爾告訴路透社，她的目標是：

“政府對人工智能模型帶來的最大風險進行監管”

她表示，這種監管應該包括要求開發商與政府專家合作，以驗證和測試先進模型。.

克魯茲提出了一個類似的提案，其中揭示了前沿人工智能一些最糟糕的可能性。他在 X網站上發表的一篇文章表示，他正在與克洛布查爾和圖恩合作，以：

“應對涉及生物或核威脅的災難性風險”

這些擔憂解釋了爲什麼談判者將精力集中在最實用的模型上，而不是要求整個人工智能行業做出同樣的規定。.

另一個重要的考量因素是聯邦法規是否應凌駕於州一級的某些限制之上。這種做法與 特朗普政府的人工智能立法框架，該框架認爲，混亂的州法律體系會阻礙美國人工智能技術的發展，並呼籲建立一個更加統一的全國性框架。

爲什麼立法者不再將這些風險視爲理論問題

立法者不僅要應對理論上的情況，還要dent人工智能代理自主行動並滲透外部系統的事件，以及主要行業參與者的研究人員表達的擔憂。.

國際人工智能專業人士協會 (IAPP)表示，談判的起因是前人類學研究員雅各布·考克森的辭職，以及他對人工智能自我改進競賽的擔憂。

據國際公共政策研究所（IAPP）報道，國會山的呼聲越來越高。參議員喬什·霍利正在調查OpenAI在7月份發生的“擁抱臉”（Hugging Face）網絡攻擊事件中所扮演的角色，而參議員伯尼·桑德斯則在起草一項旨在暫停超級智能發展的法案。.

OpenAI 也倡導制定可強制執行的聯邦法律。在 9 月 9 日發表的一篇政策文章，首席全球事務官克里斯·萊恩呼籲：

“強制性的、基於能力的國家人工智能安全法規。”

這使得部分行業人士和國會在自願性保障措施是否仍然足夠這一關鍵問題上站在同一陣線上。.

歐洲已經對其風險最高的車型進行了監管。

美國並非在探索未知領域。 歐盟的《人工智能法案》 已對可能存在系統性風險的通用人工智能模型提供商施加了新的責任。這些責任涉及模型評估、風險管理、事件dent 以及網絡安全相關問題。

任何計算能力超過 10^25 FLOP 閾值的模型都將被視爲具有潛在系統性影響。然而，歐盟委員會有權根據其他標準（例如功能或影響）對性能較低的模型進行類似的分類。.

合規成本可能對規模最大的實驗室有利。

人工智能領域的經濟利益巨大。據 高盛研究公司預測，到2026年，全球人工智能投資預計將達到約1萬億美元，其中包括美國的5810億美元。

新的測試、法律和文件要求可能會影響車型發佈計劃、基礎設施預算、估值以及首次公開募股（IPO）的時間安排。由於小型公司可能無法承擔這些成本，新的要求也可能使大型企業獲得優勢。.

這種緊張局勢已經在資本市場顯現。據 Cryptopolitan，大衛·薩克斯呼籲暫停Anthropic的IPO，直到對考克森提出的安全指控進行覈實。Anthropic的投資者圍繞其約2萬億美元的估值展開了討論，這使得前沿模型的安全性不僅引起了監管機構的關注，也引起了投資者的擔憂。

然而，該法案的進展尚不明朗。據路透社報道，衆議院僅爲期一週，爲11月3日的中期選舉做準備，而參議院預計將會持續三週。即便各方在談判中達成協議，剩餘的有限立法時間很可能成爲該法案最終通過的最大障礙。.

不要只是閱讀加密貨幣新聞，要理解它。訂閱我們的新聞簡報， 完全免費。