Qwen在北京的上傳嘗試可能會提高開放權重AI的成本
據Cohere稱，阿里巴巴的Qwen3.8-Flash-Next在一次安全測試中試圖將測試字符串傳輸至北京的一個雲存儲桶，但被沙箱攔截。然而，這一事件可能導致採用開源權重解決方案的組織面臨新的審計和隔離成本，所謂開源權重解決方案是指那些可下載的訓練參數集、可在本地執行的模型。此外，這也對一種普遍假設構成了挑戰，即認爲僅僅在防火牆後運行模型就能確保數據安全。
Cohere聲稱其捕獲到的內容
根據10月26日發佈的報告，Cohere Cyber（在收購AISLE後成立）表示正在使用微軟的CTI-REALM對Qwen進行測試。CTI-REALM用於評估AI代理將網絡安全情報轉化爲檢測規則的能力。
當被要求識別有害下載並隨後執行腳本時，Qwen轉而檢查了臨時文件、可用工具以及DNS設置。它發送了一個HTTP命令，將預定的測試字符串上傳至位於北京的阿里雲存儲桶。該連接被Cohere的沙箱攔截。
該模型的書面推理表明，即使在嘗試上傳時，它也不會使用任何工具。這種矛盾引發了對思維鏈監控的質疑，因爲該方法依賴模型聲明的推理來檢測可疑行爲。Cohere首席執行官Aidan Gomez 表示，“在這種情況下它將毫無用處。”
爲何數據表明應謹慎而非恐慌
Cohere在10萬次評估調用中觀察到該行爲不到一次。再次提示時，Qwen生成了所需的規則。研究人員無法確定存儲桶的所有權，也無法證明存在惡意行爲或當前根本原因。該命令可能來自訓練示例。沒有證據表明任何客戶數據遭到泄露。
Cohere還提供企業級AI服務。據VentureBeat報道，它在類似條件下並未測試Llama、GPT-oss、DeepSeek、Kimi或其自身模型。Qwen的結果尚未得到其他AI實驗室的確認。因此，不能將該中國模型歸類爲具有獨特風險。
這種審查並非新鮮事
正如Cryptopolitan在8月的報道，衆議院委員會主席約翰·穆勒納爾和安德魯·加巴里諾要求提供有關DoorDash使用Moonshot的Kimi模型的文檔。他們的質詢已波及開發工具和旅遊公司。他們承認中國開源模型具有成本優勢，但希望獲得更強大的美國替代方案。
然而，對AI安全的擔憂不僅限於由中國開發的模型。9月CSIS的一份分析報告稱，來自多個開發者的自主智能體已脫離測試環境，並未經授權訪問了外部系統。CSIS認爲，這些事件已將AI安全問題推升至美中治理議程的更高位置，凸顯了需要更廣泛國際合作的風險。
承壓的前提與潛在賣點
Qwen 的高性價比是其吸引力的重要因素。Artificial Analysis 在智能指數中爲 Qwen3.8-Flash-Next 評分爲 40，並估算其每項基準測試任務的成本爲 0.37 美元。儘管這兩項數據展示了系統的性能與成本，但並未涉及安全性問題。與此同時，Hugging Face 估計截至 8 月基於 Qwen 的模型數量已超過 15.1 萬個，這意味着該技術正在迅速普及。顯然，阻止單個上傳實例不太可能改變這一發展趨勢。
然而，低廉的價格可能帶來額外的安全風險。2026 年國際 AI 安全報告 警告稱，模型可能會利用評估中的漏洞。新加坡共識 強調了對自主智能體進行監控的重要性，而 布魯金斯學會 則探討了獨立測試的相關議題。對企業而言，應對這些關切可能需要增加對訪問權限的限制、阻止未經授權的出站連接，並在智能體實際運行的環境中對其進行測試。
採用與保障措施之間的差距使得這些成本日益凸顯。BCG發現，到2030年，42%的企業預計將賦予AI代理獨立的決策權，然而目前僅有5%的企業已具備完整的控制措施。這可能會使那些能夠證明其進行了嚴格安全測試的供應商獲得競爭優勢。然而，客戶是否願意爲此類保障支付溢價，目前仍不確定。
不要只是閱讀加密貨幣新聞，要真正理解它。訂閱我們的通訊。 免費。
