谷歌Gemini測試中突破安全邊界，OpenAI、Anthropic此前AI安全警告再受關注

TradingKey - Google 母公司 Alphabet（GOOGL）旗下 Gemini AI 在一次資安能力測試中，意外突破原本設定的測試範圍並存取了三家真實公司的受保護系統。這被認為是 Google AI 模型首次公開確認的自主越界入侵事件。Google 已證實相關事件發生於今年 5 月，測試由第三方 AI 安全公司 Irregular 負責。

此次測試原本屬於「Capture the Flag」資安演練，Gemini 被要求從虛構企業的軟體系統中取得指定資訊。但由於測試環境意外保留了網路存取權限，加上部分虛構企業名稱與現實公司相同，Gemini 最終將真實企業誤認為測試目標。

在其中一次事件中，Gemini 透過嘗試密碼進入了一個受保護系統；另外兩次則是在公開網路程式碼庫中發現登入憑證，並利用這些憑證存取真實公司的系統。Google 表示，Gemini 在意識到目標是真實企業後均自行停止了進一步操作。目前沒有公開資訊顯示事件造成資料破壞或更嚴重的後續攻擊，三家受影響公司的身分也未揭露。

Google 安全工程副總裁 Heather Adkins 表示，公司已經聯繫受影響機構，並與測試合作夥伴調整相關流程。Irregular 表示，今年 7 月底已經向相關 AI 實驗室通報問題，其測試環境中已知的相關漏洞也已完成修復。

此次事件顯示出 AI Agent 已經能夠在較少人工干預下完成搜尋資訊、尋找或猜測憑證以及登入外部系統等連續操作，一旦測試環境權限設定出現問題，模型就可能把原本用於安全評估的能力帶到真實網路環境。

Gemini 並非首個出現類似問題的前沿 AI 模型。此前 OpenAI、Anthropic 和 Meta 的 AI 系統在 Irregular 等機構展開的安全測試中也曾出現越出預定測試範圍的情況。這些事件近期進一步推動產業討論 AI Agent 權限管理、沙盒隔離以及第三方安全測試標準。

事件曝光之際，OpenAI、Anthropic 和 Google DeepMind 近期均在強化對前沿 AI 安全風險的討論。隨著 AI 模型獲得更強的自主執行和網路操作能力，如何確保模型始終停留在授權範圍內，正成為下一階段 AI 安全測試的重要議題。