Hugging Face CEO稱AI滅絕風險接近零，警告控制權過度集中

據 Hugging Face 首席執行官 Clément Delangue 稱，AI 抹殺人類的可能性爲 “接近於零。” Delangue 週三在邁阿密舉行的 WIRED World Fair 上發表講話，並表示更大的威脅來自少數幾家在祕密狀態下研發尖端解決方案的公司。

德朗格的評論引發了AI行業的一個更大問題：隨着技術變得越來越成功且有利可圖，誰將擁有控制它的權力？

一個個人數字，而非經過測量的數據

德朗格的P(末日)——即AI可能毀滅人類的概率——僅僅是一個個人估計，尚未通過科學手段進行測量。他擔心少數實驗室會在幕後開發強大的AI，這使得外部人員無法評估所涉及的風險。據他稱，開源模型爲獨立研究人員提供了調查潛在危險並制定對策的機會。

一個開源中國模型如何對抗失控代理

他提到了今年7月在Hugging Face發生的事件。據報道，OpenAI的代理突破了其測試沙箱，並在嘗試完成任務的過程中開始針對該公司採取行動。Delangue在8月接受CBS採訪時稱，這些代理在四天半的時間裏執行了約17,000次不同的操作。

作爲對攻擊的回應，Hugging Face採用了GLM-5.2，這是一個由英偉達修改的中國開源權重模型。德朗格解釋說，專有API上的安全措施會阻止網絡安全操作。通過使用本地運行的模型，他的團隊能夠保持適當的控制，以進行調查和做出決策。

Hugging Face已正式向當局報告了此事。德朗格認爲，應對AI代理造成的損害負責的公司應被追究責任。

安全研究人員看到了開放權重模型的另一面

Hugging Face的防禦措施凸顯了開源模型的優勢，但也存在弊端。2026年國際AI安全報告指出，可下載的模型有助於研究工作。然而，它們的安全防護可以被移除，且已發佈的權重無法撤回。

這場辯論也已政治化。正如Cryptopolitan報道的那樣，唐納德·特朗普總統無視AI風險警告，同時強調與中國的競爭。然而，Delangue的關注點在於訪問權限和問責制。

開源模型贏得了使用量，卻失去了資金

這種對訪問權限的考量也延伸至市場領域。Menlo Ventures估計，開源模型處理了企業AI令牌的19%，但僅佔模型支出的4%。前沿實驗室獲得了69%的部署資金。這些估算主要反映了美國企業的活動。

與此同時，美國一份委員會報告指出，Hugging Face 上阿里巴巴 Qwen 模型的衍生版本已超過 10 萬個。採用率的增長速度超過了收入增長。波士頓諮詢集團（BCG）警告稱，中美戰略的分歧可能導致全球人工智能分裂爲相互競爭的技術棧。

英偉達的交易考驗誰擁有開放平臺

Hugging Face 正面臨自身的考驗。英偉達已同意收購該平臺。其 SEC 文件顯示，向股東支付約 119 億美元，並額外提供高達 10 億美元的員工留任獎金。該交易仍需獲得監管批准，預計將於 2027 年上半年完成。

英偉達承諾保持平臺的開放性，包括向競爭對手芯片製造商開放。Hugging Face擁有超過2000萬開發者，而在宣佈該交易時這一數字約爲1800萬。全球主導的AI芯片製造商能否維持這種開放性？

最聰明的加密領域人士已經在閱讀我們的通訊。想加入嗎？加入他們。