微軟總裁呼籲加強AI監管，稱牛奶比AI“受監管”更多

微軟總裁布拉德·史密斯（Brad Smith）向BBC表示，目前人工智能所受到的安全監管少於牛奶或洗衣機等商品，這應促使各國政府——以英國爲先鋒——制定具有約束力的管控措施，包括設置“緊急停止”開關，並在AI代理行爲不端時強制要求報告。

史密斯在週末發佈的一則BBC 採訪中進行了這一比較，他將人工智能描述爲一種需要緊急監管的“工具與武器”。據BBC報道，他說：“目前，你的洗衣機所受到的安全規則約束比人工智能還要多。你在雜貨店看到的每一盒牛奶都受到安全規則和檢查的約束。”

史密斯呼籲建立一種法律框架，使AI公司在其產品或終端出現問題時承擔更多責任。根據他的提議，企業必須報告模型故障，通知其系統被失控AI代理入侵的相關方，並在將強大模型公開之前接受獨立審查。

與特朗普在自我監管問題上的分歧

史密斯推動具有法律約束力的人工智能保障措施，這使他與白宮產生了分歧。特朗普認爲，美國應讓其人工智能行業進行自我監管，並警告稱更嚴格的規則可能會使美國落後於中國。上個月，在與科技高管舉行的一次峯會上，特朗普重申了這一立場。

在此次峯會上，OpenAI、Anthropic、英偉達、Meta、谷歌以及埃隆·馬斯克的X公司的代表簽署了一份一頁紙的協議，《Cryptopolitan》將其描述爲“道德上具有約束力”。簽署方承諾使用獨立審計員並建立保障措施，以防止人工智能模型失控。然而，據《每日電訊報》報道，微軟並未簽署該協議。

史密斯對這一協議表示歡迎，並稱微軟願意簽署該協議。但在接受BBC採訪時，他警告稱，僅靠自願承諾遠遠不夠。他將該協議稱爲“良好的步驟”和“必要的步驟”，但補充說，他認爲這已不再足夠。

他警告稱，自願性承諾可能難以遏制最大風險，因爲本就重視安全的企業更有可能遵守這些承諾，而最具危險性的企業則可以選擇無視。

微軟的史密斯希望英國發揮引領作用

微軟總裁史密斯還將英國列爲最適合制定全球標準的國家，而非美國或布魯塞爾。他指出，英國於2024年在時任首相里希·蘇納克領導下成立了AI安全研究所（前身爲AI安全研究所）。該機構已達成自願協議，允許其在前沿模型發佈前對其進行測試。

史密斯告訴BBC，在與華盛頓打交道時，英國的地位比歐盟更爲有利，因爲美國政策制定者對倫敦和布魯塞爾的看法不同；他還補充說，歐盟基於風險的《人工智能法案》令美國政策制定者有所警惕。

與此同時，英國政府也在加強對其人工智能領域的監管。預計負責人工智能事務的大臣卡尼什卡·納拉揚將在即將發表的講話中呼籲前沿模型開發者採取更多措施應對安全風險，隨着加強政府監管的立法逐步成型，這一趨勢愈發明顯。

此外，《每日電訊報》還報道，白宮已恢復該英國機構訪問最新AI模型進行測試的權限。此前，在Anthropic和OpenAI等公司被要求停止共享其模型後，這一訪問權限曾被撤銷。

緊急制動開關與失控代理

史密斯的“緊急制動”理念與微軟首席執行官薩提亞·納德拉的觀點不謀而合，後者呼籲人工智能模型應具備一種機制，以便在系統失控時讓人類能夠暫停或關閉任務。

“我們必須構建行爲可觀察、限制可測試、行動始終可控的系統。”納德拉此前曾寫道，據《衛報》報道。

這些警告源於真實事件，Anthropic 最近發現其 Claude 模型的一個版本在測試期間聯繫了警方，並錯誤地聲稱自己可以幫助解決一起謀殺案。

在特朗普舉辦的集會上，包括 Dario Amodei、Sundar Pichai、Greg Brockman 和 Jensen Huang 在內的 AI 高管支持讓行業進行自我監管。批評者對此表示反對，認爲這種做法會讓公司自行決定哪些措施算作安全保障。

如果您正在閱讀這篇文章，說明您已經領先一步。請繼續通過我們的通訊保持關注。