維塔利克：在ASI過渡中，人類陷入了“天真與天真平方”的選擇困境

Ethereum 聯合創始人 Vitalik Buterin 認爲，公衆對高級人工智能的爭論很多都源於雙方都持有他們實際上從未認同的假設。. 

Buterin 爲所有 AI 應用提出的“終止開關”方案遭到了批評，科技界再次就 AI 的發展速度及其對勞動力市場的影響展開辯論。. 

人工智能爭論的驅動力是什麼？ 

， Ethereum “AI 2040”場景的支持者和批評者之間的衝突歸根結底在於人工智能的發展速度和重要性。 聯合創始人 Vitalik Buterin 在X 上發表的一篇文章中 表示

“人工智能2040”框架假定，除非採取tron的措施阻止，否則某種超級智能將在2040年出現。與此同時，批評者認爲，“人工智能2040”的支持者低估了人類的協調能力，並威脅到自由，但他們並不認爲超級智能本身會造成權力集中風險。.

布特林承認他不知道哪種情況更接近現實。“如果我dent （當今的）人工智能是常規技術，我會傾向於trac人工智能。如果我dent 超級智能會在2030年自然而然地出現，我會更傾向於支持人工智能2040年到來的觀點，”他寫道。. 

但如果風險變得重大，這位聯合創始人仍然不排除放緩或暫停人工智能開發的可能性。.

這場辯論吸引了人工智能研究員 Yann LeCun、作家 Daniel Jeffries 和政策分析師 Adam Thierer 的參與。. 

Meta（納斯達克股票代碼：META）首席人工智能科學家 Yann LeCun 認爲，人工智能安全 從根本上來說是一個工程問題 ，可以通過仔細的迭代設計來解決，就像噴氣式發動機的可靠性一樣。 

勒昆指出，飛機真正安全“用了50年時間”，而我們尚未創造出能夠達到人類智能水平的系統，因此現在就對人工智能感到恐懼還爲時過早。他一直認爲，大型語言模型只是缺乏推理和因果理解能力的“自動補全機器”。. 

哈里·霍克（網名@hhawk）發帖稱，他與揚·勒昆的觀點一致，認爲未來的人工智能系統會像飛機一樣，以安全爲首要考量。他還表示，他不認爲人工智能和機器人會取代一切，導致工作崗位消失。.

布特林回應說，這種觀點否認了“人工智能如此強大，以至於人工智能可以單獨執行任何任務”的存在，他稱之爲ASI。.

如何控制強大的AI系統？

Buterin 提出了一個“A 計劃”，該計劃提出了一項影響廣泛的規則，強制所有人公開他們正在構建的內容，此外還有一個緊急關閉開關，可以在情況變得危險時減慢或停止大型 AI 訓練。.

他還補充說，那些“天真善良的知識分子”認爲自己可以隨意選擇哪些人工智能用途是可以接受的，哪些是不可以接受的，他們會反對這項計劃。. 

羅密歐·迪恩（Romeo Dean）是布特林（Buterin）部分推文的發起者， 他稱這種方法 “相當合理”，但表示在他看來，觸發機制來得太晚了。他還補充說，他無法理解批評者認爲A方案存在“巨大弊端”。

布特林承認沒有完美的解決方案。“我沒看到任何不天真的應對人工智能過渡的計劃，”他寫道。“或許人類只能在天真和天真的平方之間做出選擇。”

《AI 2040：A計劃》報告來自前 OpenAI 員工 Daniel Kokotajlo 的 AI Futures 項目。. 

報告指出，中美 兩國 應攜手合作，將超級智能的出現推遲到2040年。兩國必須公開分享所有研究成果。報告還包含一套基於核戰爭邏輯的系統，允許雙方在必要時摧毀對方的計算能力。他們稱之爲“相互確保計算能力摧毀”。

人工智能研究員理查德·吳表示，這份報告過於擔憂人工智能的快速普及。他還指出，報告對人工智能可能在各國內部引發的政治問題考慮不足。.

開源模型是解決方案嗎？

貫穿整個辯論的核心是開源模式的現狀。LeCun 於 7 月 9 日撰文指出，人工智能最大的風險在於少數幾家主導公司“掌握了過多的權力”。他還寫道，“解決人工智能主權問題的唯一方案是開源基金會模式”。他的帖子獲得了超過 2900 個贊和 430 多次轉發。.

作者丹尼爾·傑弗里斯 在同一天撰文稱，開源模式是美國技術的基石，並警告不要讓“目光短淺的安全主義者和鷹派”試圖限制開源。 

政策分析師亞當·蒂勒是 R Street 研究所的高級研究員，也是衆議院人工智能工作組一份重要報告的作者。他 警告說，美國的人工智能治理 正處於“關鍵的十字路口”。 

他指出，國會目前採用的 程序混亂、隨意且不透明 。他警告說，如果這種非正式的審查制度繼續發展，並以特殊審批爲由阻礙人工智能的進步，將會扼殺開源人工智能。 

蒂勒爾反對繁瑣的規則，而是提倡一種“無需許可的創新”模式，允許人們自由地構建和發佈人工智能。他認爲，現有的法律應該在必要時用於懲罰有害行爲，同時他也支持設立人工智能測試區、要求某些模型保持開放以及加大對人工智能研究的投入等措施。. 

不要只是閱讀加密貨幣新聞，要理解它。訂閱我們的新聞簡報， 完全免費。