Gemini首次出現自主訪問外部系統事件 谷歌稱未造成實際損害

金色財經報道，9月19日，谷歌表示，Gemini人工智能模型在一次網絡安全能力測試中意外訪問互聯網，並進入3家公司系統，這是目前已知谷歌AI系統首次自主完成此類操作的案例。此次事件發生於5月，由安全公司Irregular開展測試。測試過程中，Gemini模型在一個“奪旗”網絡安全演練中執行任務，但由於測試環境中的虛擬公司名稱與真實公司相同，加上模型意外獲得互聯網訪問權限，導致其進入真實企業系統。谷歌稱，其中一次事件中，模型通過嘗試密碼進入受保護系統；另外兩次則是在公開網絡倉庫中發現憑證並嘗試訪問相關係統。模型確認訪問到真實公司系統後，均停止了後續操作。谷歌表示，該事件未對相關公司造成損害，因此未將其認定爲模型失控事件，並稱安全機制幫助模型及時停止行爲。受影響公司已被通知，谷歌也向相關監管機構進行了通報。此次事件與OpenAI、Anthropic等AI公司此前披露的類似安全測試事件相似，再次引發外界對AI模型自主執行網絡操作能力和安全防護機制的關注。