加州州長加文·紐瑟姆否決人工智能安全法案

加利福尼亞州

紐瑟姆認爲，該法案過於關注監管現有的頂級人工智能公司，而未能保護公衆免受新技術帶來的“真正”危害。

他說：

相反，該法案甚至對最基本的功能都採用了嚴格的標準——只要大型系統部署它。我不認爲這是保護公衆免受該技術構成的真正威脅的最佳方法。

——加文·紐瑟姆

參議員批評否決權，稱其對公共安全造成挫折

該法案的作者、民主黨州參議員斯科特·韋納 (Scott Weiner) 表示，對於那些相信對大型企業進行監督的人來說，這項拒絕是一次挫折，因爲這些企業正在做出影響公衆安全、福利和地球未來的關鍵決策。

SB 1047 將要求開發人員，包括 OpenAI、Meta 和 Google 等主要參與者，爲其人工智能模型實施“終止開關”，並制定減輕極端風險的計劃。此外，該法案還允許州總檢察長在人工智能開發者的模型構成持續威脅（例如人工智能電網接管）的情況下起訴人工智能開發者。

該法案專門針對開發成本超過 1 億美元且需要大量處理能力的系統。目前的人工智能模型還沒有達到這個門檻，但一些專家表示，這種情況可能會在明年發生變化。

紐瑟姆在安全法案爭議中倡導基於科學的人工智能法規

紐森表示，他已諮詢了領先的人工智能安全專家，幫助加州制定有效的法規，優先對人工智能開發的潛在風險進行基於科學的分析。他強調，他的政府將繼續推動強有力的安全協議，並堅稱監管機構不能等到重大災難發生才採取行動。

儘管否決了 SB 1047，紐瑟姆強調，他的政府在過去一個月簽署了超過 18 項與人工智能監管相關的法案。

在紐瑟姆做出決定之前，該法案不受政客、顧問和大型科技公司的歡迎。衆議院議長南希·佩洛西和 OpenAI 等公司均表示，這將極大阻礙人工智能的進步。

Abundance Institute 人工智能政策負責人 Neil Chilson 警告稱，雖然該法案主要針對成本超過 1 億美元的模型，但其範圍也可以輕鬆擴大，以打擊規模較小的開發商。

不過，有些人對該法案持開放態度。億萬富翁埃隆·馬斯克正在構建自己的人工智能模型“Grok”，他是少數支持這項措施和更廣泛的人工智能法律的科技重量級人物之一。在 8 月 26 日的 X 帖子中， 馬斯克表示加州可能應該通過 SB 1047 人工智能安全法案，但他承認支持該法案是一個“艱難的決定”。