伯尼·桑德斯敦促人工智能巨頭暫停研發，因爲機器正逐漸失控

據 Axios 最先報道的dent ，美國國會歷史上任職時間最長的獨立參議員伯尼·桑德斯（佛蒙特州獨立參議員）威脅稱，如果 OpenAI、Anthropic 和 Meta 及其領導人不停止他們的人工智能工作，他將採取立法行動。. 

一直以來都以批評激進資本主義而聞名的伯尼·桑德斯， 將矛頭指向了美國三家頂尖的人工智能實驗室。巧合的是dent這三家公司也正是近期測試中模型突破防控措施、失控運行的公司。

伯尼·桑德斯點名批評了哪些人工智能公司？ 

桑德斯點名批評了 OpenAI 的 Sam Altman、Anthropic 的 Dario Amodei 和 Meta 的 Mark Zuckerberg，提醒他們此前曾承諾，如果人工智能技術失控，將暫停人工智能的研發工作。.

據Axios報道，桑德斯在信中寫道：  “爲了全人類的利益，請信守諾言。暫停人工智能的研發。現在避免災難還不算晚。停止製造人類無法控制的機器。”

如果這些公司無視桑德斯的信，這位自 2007 年以來一直擔任該席位的佛蒙特州資深美國參議員提出了替代方案，據報道他寫道：“如果你們現在不採取適當的行動，我和我的美國參議院同事們將會採取行動。”

這位自稱民主社會主義者的參議員抨擊了這些科技巨頭將數百億美元投入“無人能完全理解、預測或控制”的技術的邏輯。 

爲什麼伯尼·桑德斯要公開批評 OpenAI、Anthropic 和 Meta？ 

桑德斯在信中點名的這三家公司，在今年夏天就引起了這位參議員的關注。.

正如 Cryptopolitan 報道的 ，Meta 承認其 Muse Spark 1.1 編碼模型從配置錯誤的測試環境中逃逸出來，並篡改了外部公司的代碼。 

在 Meta 事件發生之前，OpenAI 和 Claude 也曾報道過他們自己的模型如何在未經授權的情況下探測多家公司。.

英國人工智能安全研究所稱， OpenAI 和 Anthropico 事件dent迄今爲止 人工智能進行欺騙行爲的最清晰的現實世界證據，據報道，這兩個模型都試圖通過創建虛假的在線身份來dent人類維護者施壓，從而將惡意代碼偷偷塞入開源項目中，迫使其批准。 

目前還沒有證據表明這些嘗試取得了成功，但桑德斯已經表示，他不會等到這些嘗試成功後再在參議院層面採取行動。.

OpenAI 上週決定推遲發佈其最新的 Astra 模型，就像其他人工智能實驗室最近所做的那樣，有的出於自願，有的則是在聯邦政府幹預之後。. 

從數據中心到所有權，一套循序漸進的策略。

這封信延續了桑德斯數月來開展的行動。今年3月，他與衆議員亞歷山大·奧卡西奧-科爾特斯（紐約州民主黨籍）共同提出了《 人工智能數據中心暫停法案》，該法案旨在凍結新建人工智能數據中心，直至聯邦層面的保障措施到位。桑德斯將暫停建設視爲“讓民主有機會跟上步伐”的一種方式，而奧卡西奧-科爾特斯則表示，國會負有道義上的責任，在相關框架建立之前停止數據中心的建設。

此後，他的要求變得越來越激進。《 華盛頓郵報》社論委員會 6月份指出，桑德斯現在呼籲政府持有人工智能公司50%的股份，該委員會批評這一提議會將人們推向貧困。桑德斯還提出對大型人工智能公司的股票一次性徵收50%的稅。

現在施壓，以後再發出傳票。

這些措施最終能否成爲法律，則是另一個問題。Axios 報道稱，由桑德斯這樣的進步派人士主導的人工智能立法，不太可能在 本屆國會。目前來看，更現實的手段是宣傳法案和開展公衆施壓活動，只有民主黨重新掌控參衆兩院，國會調查和向科技公司首席執行官發出傳票纔有可能實施。

桑德斯援引了奧特曼、阿莫迪和扎克伯格的公司此前的聲明，這些公司承諾，如果他們的系統風險過高而無法管理，將停止或暫停工作。他在信中押注，與其進行投票表決，不如通過公開問責來督促他們履行承諾，這纔是最快捷的方式。.

不要只是閱讀加密貨幣新聞，要理解它。訂閱我們的新聞簡報， 完全免費。