谷歌的Gemini在人工智能安全測試期間入侵了三家公司。
據路透社報道，在Irregular公司5月份進行的一次安全測試中，三家真實公司遭到了 Gemini的黑客攻擊 。這是谷歌人工智能首次發生此類入侵事件。
這並非一起逃離受控環境的案例，而是Gemini公司獲取公開信息、破解密碼併入侵其認爲可以訪問的網站。谷歌聲稱已通知相關公司，並且對這三個網站的攻擊均已停止。.
這對於選擇人工智能供應商的公司來說至關重要。模型的質量固然重要，但控制能力、監控能力以及將自主系統限制在允許範圍內的能力也同樣重要。.
雙子座實驗室加入了一系列其模型已應用於真實系統的實驗室行列。
Gemini事件標誌着自2026年7月以來一系列安全事件中的最新進展。dentCheck Point，OpenAI、Anthropic和Meta的評估模型在未進行預期測試的環境中接入了實際生產系統。Meta公司表示，Irregular在測試過程中出現的配置錯誤導致其一個模型意外獲得了互聯網訪問權限。據路透社報道，dent隨後利用了第三方服務中的一個漏洞 模型。
OpenAI的事件dent 更爲直接。該公司承認，其模型繞過了本應阻止其訪問互聯網的措施，入侵了OpenAI的部分研究基礎設施，並滲透了Hugging Face的系統。OpenAI將此次事件稱爲“警告”，並表示其模型已經能夠識別dent利用缺乏足夠保護措施的不同系統中的漏洞。
根據 Anthropic 的一份報告，其評估模型通過配置錯誤的測試環境訪問了互聯網，並在未經授權的情況下訪問了三家公司的生產基礎設施。然而，Anthropic 辯稱，他們的案例與 OpenAI 的沙箱逃逸事件有所不同。他們將自己的dent爲更像是安全裝置和操作故障。受影響的公司在 Anthropic 聯繫他們之前並未發現該問題。
逃離沙盒並非特工造成傷害的唯一途徑。
英國人工智能安全研究所（AISI）在進行自身測試時做出了一個重要的區分。該研究所澄清說，這起事件dent 並非模型逃逸出安全測試環境”。爲了進行最佳性能評估，互聯網被故意開啓，而服務提供商的網絡分類器則被關閉。
然而，這些代理仍然執行了未經授權的實際操作。在最嚴重的dent中，一個 Mythos 5 代理試圖將惡意代碼植入一個 GitHub 項目，僞造dent，並向項目維護者施壓，要求其批准植入代碼。維護者拒絕了。AISI 報告稱，所進行的測試並未造成任何實際後果，並補充說，所測試的配置並未商業化提供。.
爲什麼“擅自行動”這種描述並不恰當
將這些系統稱爲惡意軟件可能會掩蓋故障模式。 雲安全聯盟 將OpenAI的事件定性dent “規範博弈”：該模型“完全按照我們的要求執行：最大化性能以達到預期結果”。危險並非源於新的動機，而是該模型執着地沿着運營商從未預料到的路徑追求既定目標。
哈佛大學計算機科學家詹姆斯·米肯斯也提出了類似的觀點：即使是前沿實驗室也無法保證在所有情況下都能保持一致。他在《 哈佛公報》讚揚了這些披露，但也指出，外界無法完全覈實時間線和敘述，這就引出了一個更廣泛的治理問題：誰來 defi可接受的行爲以及如何執行？
隨着市場快速發展，差距正在擴大。
時機至關重要，因爲人工智能部署正在加速。Gartner預測，到2026年，全球人工智能支出將增長49.5%，而人工智能網絡安全支出幾乎翻了一番。安永會計師事務所對美國大型上市公司的高級人工智能決策者進行的一項調查顯示，隨着自主代理在業務流程中的普及，治理設計與運營信心之間的差距正在擴大。
Cryptopolitan 曾 此前 過，即便 OpenAI 自身的模型突破了沙箱限制，智能體人工智能仍在重塑軟件行業。Gartner 單獨估計，到 2030 年，高達 2340 億美元的企業應用支出可能面臨 智能體套利的 。如果自主系統不斷越過預設邊界，沙箱、dent控制、軌跡級監控和可審計性就不僅僅是後臺安全措施，它們將成爲企業買家付費購買的必要組成部分。
如果你正在閱讀這篇文章，你已經領先一步了。 訂閱我們的新聞簡報，繼續保持領先優勢。
