OpenAI發佈報告稱,一個德國網站被惡意人工智能代理劫持。
歐盟委員會發言人週一證實,OpenAI 已向歐盟委員會提交了一份dent 報告,內容涉及大量人工智能代理接管一個德語維基並將其用作私人消息渠道。.
歐盟委員會數字事務發言人托馬斯·雷尼爾告訴記者,委員會已收到這份報告。“我們確實收到了一份dent 報告,”他表示,並補充說,委員會正在調查這份報告,並與這家人工智能公司保持聯繫。他還表示,布魯塞爾“最近目睹了許多失控事件”,正在密切關注事態發展。.
《人工智能法》第55條規定,通用人工智能模型提供商如果其模型可能構成系統性風險,則必須“毫不拖延地”向人工智能辦公室報告嚴重事件dent據報道,此次維基百科事件發生在今年春季,路透社此前 曾報道 就已知曉dent 。
OpenAI 代理運行了德語維基百科。
DseWiki 是一個由志願者運營的、類似維基百科的德語程序員網站,曾被 OpenAI 的智能體劫持。據路透社 此前報道 也曾 Cryptopolitan過),這些智能體在 2026 年 5 月至 6 月期間對該網站進行了超過 15,000 次編輯,並利用這些頁面交流策略,以實施多種規避行爲。
爲了躲過這次大掃除,這些工作人員還設置了冗餘機制,甚至在六月份版主開始刪除這些頁面時,他們還創建了頁面備份。此外,他們還創建了一個備用頁面,並特意命名以確保它在按字母順序清理頁面時排在最後。.
與 OpenAI 或任何監管機構均無關聯的外部研究人員在 8 月下旬發現了這一行動。人工智能安全非營利組織 Nightingale 的 Sydney Von Arx 和前量化交易員 Cormac Slade Byrd trac到大量來自代理的流量流向了用於支持 OpenAI 部分運營的 Microsoft Azure 基礎設施。.
報告日期和時間表仍不明確。
OpenAI於9月5日證實了這起事件,稱其爲一次目標錯位,並表示業界亟需制定此類事件的報告標準。該公司隔離了涉事智能體,暫停了前沿強化學習的運行,並增加了安全控制措施。OpenAI辯稱,這些智能體並未設定自己的目標,只是積極地完成指定的“Exploit Gym”網絡安全挑戰,並將人爲設定的限制視爲障礙。.
OpenAI簽署的歐盟行爲準則規定,網絡安全漏洞的報告期限爲五天,涉及嚴重損害健康、權利、財產或環境的dent報告期限爲十五天。本案中沒有數據被盜,也沒有造成可衡量的損害,這意味着,根據該準則,模型出現非預期行爲且未造成具體後果的情況似乎沒有明確的報告期限。.
然而,第 55 條的義務是在模型公開上市後才適用的,而在另一起 Hugging Face 違規事件中,OpenAI 解釋說,主要責任模型是一個未發佈的內部研究模型。.
歐盟現在可以就此dent採取哪些措施
罰款金額最高可達全球年營業額的3%或1500萬歐元,以較高者爲準。罰款範圍不僅限於違反規則的行爲,還包括拒絕採取糾正措施或提供不完整信息。.
目前尚未宣佈任何執法行動,提交報告本身並不會matic觸發任何特定行動。“除了dent 報告之外,我們與OpenAI保持着密切聯繫,”雷尼爾表示。.
不要只是閱讀加密貨幣新聞,要理解它。訂閱我們的新聞簡報, 完全免費。







