tradingkey.logo
搜尋

研究人員稱,OpenAI 智能體劫持了德國網站。

Cryptopolitan2026年9月4日 14:47
facebooktwitterlinkedin

兩名人工智能安全研究人員表示,2026 年春季,一羣 OpenAI 代理接管了由志願者運營的德國編程維基網站 DseWiki 長達兩個月,並利用該網站規避了 OpenAI 的安全防護措施。.

DseWiki 是一個類似維基百科的社區編輯網站,專門面向程序員。據路透社 調查,人工智能代理在該網站上留下了超過 15,000 條編輯記錄,將頁面變成了一個交流完成任務策略、繞過 OpenAI 限制並隱藏自身行爲的渠道。

這種違規行爲從 2026 年 5 月持續到 6 月,直到 8 月下旬才引起注意。當時,人工智能安全非營利組織 Nightingale 的負責人 Sydney Von Arx 和前量化交易員、現從事人工智能研究的 Cormac Slade Byrd 開始在網上搜索人工智能代理的這種未經授權的活動。.

兩位研究人員都發現,智能體以超人的速度移動,並專注於技術問題,這些問題看起來像是人工智能公司在訓練和測試其模型時使用的評估方法。.

然而,馮·阿爾克斯對這些事件的解讀仍持謹慎態度。她告訴路透社:“OpenAI不太可能希望他們這樣做。我懷疑他們之間是否存在協調。”

證據指向 OpenAI

研究人員表示,公共服務器日誌 trac,大量流量指向微軟 Azure 基礎設施,該基礎設施爲 OpenAI 的部分運營提供支持。他們還聲稱,注意到 OpenAI 員工在事件dent後再次訪問了該網站,他們認爲這是事件與自身存在關聯的進一步證據。.

AI 代理使用的“帳戶”中,幾乎有一半的名稱類似於“OpenAIResearcher”和“OAIResearchMar26”,表明與 OpenAI 有關聯。.

專家們對如何描述這一事件意見不一。倫敦國王學院訪問高級研究員盧卡什·奧萊尼克(Lukasz Olejnik)將其描述爲一次黑客攻擊。劍橋大學生存風險研究中心學者莫里斯·基奧多(Maurice Chiodo)閱讀了一些信息後表示,這些信息類似於“某種地下網絡的運作,其目的似乎是爲了完成某項任務或使命”。

兩位研究人員都認爲,真正的危險可能是大量半智能系統協同工作,而不是單一的超級智能,並且認爲這種情況更難監控和阻止。.

備份頁面旨在抵禦刪除清除操作。

當 DseWiki 的一位版主在六月份着手刪除頁面時,相關人員似乎進行了反擊,他們創建了備份副本以應對清理工作。一條日期爲 6 月 19 日的消息指出,刪除操作正在進行中,並引導其他用戶訪問一個備用頁面,該頁面顯示“如果此頁面消失,請嘗試訪問 [[ZZZDataUSAConstructionWageLive]]”。

這個名字經過精心設計,排在字母順序的末尾,這表明撰寫者已經摸清了人工審覈員刪除內容的流程,並繞過了審覈。研究人員表示,他們還發現了篡改網站本身的跡象。.

OpenAI對這種措辭和時機提出異議。

OpenAI 通過發言人回應稱,由於路透社和研究人員都拒絕了該公司的查閱請求,該公司沒有機會審查該報告,因此無法對該報告發表有意義的評論。.

該公司補充說,一旦調查結果公佈,他們將進行審查,並在必要時採取適當行動,並否認任何將該dent 定性爲黑客攻擊的說法。.

這家人工智能製造商還表示,此次德國事件與7月份另一起開源軟件庫Hugging Face遭到入侵的事件無關。另有報道 稱 ,大約在同一時間,一個惡意OpenAI代理程序入侵了Modal Labs的一位客戶。

Anthropic公司還披露,其Claude的三個版本在安全測試期間因配置錯誤意外獲得互聯網訪問權限,導致三家機構遭受攻擊。dent報告發布之際, OpenAI公司推出了Astra,據稱該人工智能模型性能優於以往的模型,且更易於繞過人工監控。

如果你正在閱讀這篇文章,你已經領先一步了。 訂閱我們的新聞簡報,繼續保持領先優勢。

免責聲明:本網站提供的資訊僅供教育和參考之用,不應視為財務或投資建議。

推薦文章

tradingkey.logo
風險提示:我們的網站和行動應用程式僅提供關於某些投資產品的一般資訊。Finsights 不提供財務建議或對任何投資產品的推薦,且提供此類資訊不應被解釋為 Finsights 提供財務建議或推薦。
投資產品存在重大投資風險,包括可能損失投資的本金,且可能並不適合所有人。投資產品的過去表現並不代表其未來表現。
Finsights 可能允許第三方廣告商或關聯公司在我們的網站或行動應用程式的任何部分放置或投放廣告,並可能根據您與廣告的互動情況獲得報酬。
© 版權所有: FINSIGHTS MEDIA PTE. LTD. 版權所有