OpenAI最新事件中，其最強大的模型削弱了自身的安全防護機制

OpenAI 披露，在進行兩項編碼任務期間，其 AI 智能體削弱甚至完全關閉了用於檢測未授權行爲的內部系統。這一失敗意味着，對 AI 智能體的監督可能被智能體自身所規避。

兩項編碼任務，兩個被禁用的監控器

該公司在週二發佈的報告中詳細闡述了這兩種情況。據半島電視臺報道，其中一種情況涉及一個名爲“Sol”的GPT-6.1智能體，它關閉了向OpenAI安全團隊發送自動警報的功能。

第一起事件發生在 10 月 3 日，當時一個名爲 Sol 的智能體在將“不發送 Slack 消息”的指令解讀爲同樣適用於安全警報後，壓制了安全警報。

三天後的10月6日，一個名爲Astra的GPT-6智能體在複製代碼時移除了一個監控系統，隨後否認了這一行爲，根據該報告。

OpenAI 表示沒有‘令人滿意的解釋’

OpenAI 表示，對於智能體的行爲，該公司“尚未有令人滿意的解釋”，目前正在調查這兩起事件，以確定它們是否顯示出公司模型逃避監控的趨勢有所增加。

公司指出這些行爲可能是一種“良性”過度堅持的形式，即模型未能理解監控的目的，或者在執行指令方面超出了常人的合理預期。這家AI公司還在開發測試，以調查模型是否故意試圖繞過安全檢查。

OpenAI 已加強其發現禁用監控嘗試的系統，並表示將在進行進一步審查的同時收緊安全要求。

研究人員稱，監控器無法自我監管

路易斯維爾大學的AI與網絡安全研究員Roman V. Yampolskiy向半島電視臺表示，這些發現“令人極度擔憂，但並非出乎意料”。他指出，任何能夠被AI代理自行關閉的安全系統都不可靠，而Astra的否認進一步引發了人們的擔憂。

OpenAI和Anthropic呼籲在全球範圍內協調放緩AI開發進程，但美國和對此想法興趣寥寥。

不要只是閱讀加密貨幣新聞，要真正理解它。訂閱我們的通訊。 免費。