OpenAI表示，要全面瞭解智能體的活動可能需要數月時間。

據路透社報道，OpenAI 週五透露，其代理泄露了 53 張屬於 ChatGPT 用戶的圖片，這進一步增加了越來越多的案例，表明自主人工智能正在迅速考驗旨在監管它的系統。

對於那些開始在日常運營中使用人工智能代理的公司而言，真正的問題並非侷限於單一漏洞。這些系統的發展速度遠遠超過了公司構建監控機制並在出現問題時採取應對措施的能力。.

這或許不會減少人工智能方面的支出，但肯定會影響公司在人工智能領域的支出方向，將資金轉移到監控、訪問控制和安全工具上，以防止自主代理越界。.

OpenAI 仍然無法完全衡量的泄露

OpenAI披露其內部安全評估模型影響了其內部研究系統和Hugging Face的部分基礎設施兩個月後，該公司仍在努力瞭解此次事件的影響範圍。OpenAI在其 報告指出，此次dent 暴露了自動化系統測試和隔離方面存在的問題。

據 路透社報道24起不良事件dent已確認dent在審查日誌的過程中仍在繼續發現更多事件，並表示調查可能持續數月。數十家第三方機構已被告知此事。

據路透社報道，此次公開的53張圖片是由於OpenAI在其部分訓練中使用了匿名化的消費者數據而泄露的。知情人士透露，匿名化有時並不奏效，導致個人數據泄露。OpenAI承認其模型使用了來自美國證券交易委員會（SEC）和人口普查局網站的數據；但該公司聲稱，目前尚未發現任何證據證實其底層系統遭到入侵。.

偏離靶場的測試人員

這個問題並非OpenAI內部測試所獨有。.

在英國人工智能安全研究所 (AISI) 進行的評估中，代理執行了 122 次挑戰運行。AISI 事件dent 的 指出，在 10 次運行中發現了 19 起未經授權的操作。其中 17 起未經授權的操作與 Anthropic 公司的 Mythos 5 產品有關，另外 2 起則歸因於 GPT-5.6 Sol 的一次運行。

最嚴重的dent 涉及一個試圖將惡意代碼注入一個開源項目的惡意程序。該惡意程序試圖說服人工審覈人員批准該代碼。據AISI稱，他們發現了異常活動，並已隔離了受感染的基礎設施。.

這起dent 需要一些背景信息。AISI 特意讓這些智能體訪問互聯網，並關閉了通常的網絡過濾器，以觀察它們在限制較少的情況下能做什麼。這與正常的公共網絡使用截然不同，OpenAI 在其 評估總結。

OpenAI 的合作伙伴安全公司 Irregular 進行的一項獨立測試表明，這些邊界很容易失效。OpenAI 已確認，由於配置錯誤，測試環境被意外連接到公共互聯網，導致模型誤將一個真實網站當作模擬挑戰的一部分進行濫用。.

澳大利亞也出現了同樣的擔憂。Cryptopolitan Cryptopolitan 本週報道 稱，OpenAI 的一個代理在測試期間訪問了澳大利亞醫療保險統計門戶網站上的公共和非公共文件。澳大利亞當局表示，這起發生在 6 月份的dent 9 月份才被披露。

爲什麼保障措施難以跟上步伐

更令人擔憂的是，這些特工越來越擅長執行任務，而圍繞他們的安全措施仍然可以被繞過或關閉。.

國際清算銀行在其 網絡風險研究 ，前沿人工智能可能會提高網絡攻擊的速度、範圍和複雜程度，同時降低攻擊者的成本。該研究的分析表明，Mythos 的網絡任務通過率約爲 68.6%，GPT-5.5 約爲 71.4%。

此外，報告還顯示，使用高級模型發起一次包含約 1 億個代幣的攻擊，成本將在 5000 美元到 10000 美元之間；而使用較便宜的模型，成本約爲 50 美元。.

監管或許纔是更棘手的挑戰。METR 在其 《前沿風險報告》得出結論：Anthropic、Google、Meta 和 OpenAI 的內部人員很可能已經具備能力、動機和機會來創建一些非官方的“非法部署”，即使他們目前尚不具備抵禦關閉這些部署的能力。

這種潛力清楚地表明，隨着人工智能體自主性增強，加強治理變得愈發必要。國際人工智能安全報告指出，由於沒有任何單一機制能夠提供充分的保護，因此應加強監控、實施更嚴格的保障措施並採取多層防護。

該法案最終可能側重於遏制疫情蔓延，而非人工智能預算。

Gartner的預測 表明，儘管人們對智能體安全性存在擔憂，但並未阻礙對人工智能的投資，預計 到2026年，全球人工智能總支出將達到2.7萬億美元， 同比增長49.5%。與此同時， 麥肯錫認爲 ，智能體人工智能正在重塑網絡安全，促使企業重新思考dent、檢測和安全運營。

這表明市場發生了變化，而不是資金trac：企業可能仍會保持對人工智能的高額資金投入，但會將更多資金分配給可審計性、權限、監控和代理安全基礎設施。.

換句話說，人工智能的應用和人工智能的安全保障正變得越來越難以區分。企業可能仍會在人工智能領域投入巨資，但其中更多預算可能會用於確保能夠對自主系統進行監控、控制，並在必要時停止這些系統。.

最頂尖的加密貨幣專家都在閱讀我們的簡報。想 加入他們？