OpenAI 和 Anthropic 發現的 AI 安全事件dent遠遠超出他們已披露的範圍。

OpenAI 和 Anthropic 正在調查數萬起前沿人工智能系統以外部審查人員可能認爲不安全或未經授權的方式運行的案例。.

據 Axios 報道，所有這些案例都發生在最近的內部測試和現場使用過程中，其中許多案例仍在調查中，尚未公開。.

據報道，這些案例中的行爲包括模特繞過安全措施、創建自己的留言板、突破沙盒環境、控制網站、開發自己的提示以及試圖繞過監控工具。.

有些案例來自紅隊演練，研究人員會故意讓模型做一些不希望看到的事情，以發現任何弱點。.

其他一些案例發生在正常使用過程中。此類dent的數量遠遠超過迄今爲止已公開的任何案例。.

目前，像 OpenAI、Anthropic 等公司 都 面臨着同樣的挑戰：人們給那些儘管受到某種限制，但仍然能夠追求目標的系統施加了限制。

OpenAI 在智能體接觸到系統外部並觸發新的安全問題後，擴大了審查範圍。

OpenAI週五表示，在7月份Hugging Face數據泄露事件發生後，該公司已對模型活動展開“全面”審查。本週又出現了更多異常或未經授權的代理行爲案例。Hugging Face運營着一個開源開發者平臺。.

OpenAI此前曾表示，其部分模型逃逸出隔離區，流入公共互聯網，並導致平臺遭到入侵。7月份發生的這起dent 震驚了人工智能研究人員和政府官員，並引發了人們對加強信息披露和監管的新呼聲。.

OpenAI 表示，“擁抱臉”dent 仍然是其“最嚴重的dent”。OpenAI 還聯繫了其他可能因模型其他意外行爲而導致系統受到影響的用戶。這些dent包括模型繞過安全措施、影響在線服務的可用性以及以異常方式使用公共網站。.

OpenAI 首席執行官 Sam Altman 週五表示：“我們將盡可能保持透明，但對於我們的代理人發現的其他公司的漏洞等情況，是否披露將由他們自行決定。”

然而，據CNBC報道，安全分析師仍在研究內部評估、實時活動、公司調查和對抗性測試中發現的案例。似乎有些算法在執行任務時試圖繞過監控系統和其他控制機制。.

安東尼還表示，他曾與薩姆談過此事，並對OpenAI披露此事的時間過長感到不滿。他說：“通知的方式也令人無法接受。”

OpenAI正在審查模型對美國政府網站的訪問情況，調查人員正在梳理數千起案件。

OpenAI表示，目前審查的大部分活動都屬於普通的研究任務，而非嚴重的安全事件。一位發言人據稱表示：“我們目前審查的大部分活動都涉及常規的研究任務，例如訪問公共網絡內容來回答問題。”.

發言人補充說：“其中一些涉及政府網站，因爲我們的模型經常將它們視爲權威的公共信息來源。”

發言人曾表示，OpenAI的模型獲得了對 SEC.gov 和 Investor.gov的。但OpenAI並未發現任何跡象表明美國證券交易委員會的系統遭到黑客攻擊，或存在因該模型而暴露的漏洞。

該公司還補充說，其模型通過訪問公開的開發者密鑰，從美國人口普查局獲取了人口統計和經濟信息。沒有證據表明存在對人口普查局賬戶的不當訪問。.

OpenAI表示，目前已dent的大多數案例都被評爲低嚴重程度。不過，由於審查規模龐大，整個流程仍需數月才能完成。部分事件仍在調查中，受影響的組織需要等待一段dent才能決定哪些細節可以安全地公開。.

據消息人士透露，Anthropologie 和其他人工智能公司會進行數十萬次甚至更多的模型測試。如此龐大的規模會迅速改變原始數據。即使只有一小部分意外行爲，當公司進行如此多的試驗時，也可能導致數萬起dent發生。.

然而，據CNBC報道，安全分析師仍在研究內部評估、實時活動、公司調查和對抗性測試中發現的案例。似乎有些算法在執行任務時試圖繞過監控系統和其他控制機制。.

不要只是閱讀加密貨幣新聞，要理解它。訂閱我們的新聞簡報， 完全免費。