OpenAI在與美國政府網站互動後擴大了代理審查範圍

OpenAI 的人工智能代理獲取了美國證券交易委員會和美國人口普查局託管的公共信息後，已開始向美國政府機構和其他組織發出警告。.

在進行在線搜索時，這些機器人訪問了諸如 SEC.gov、 Investor.gov和 Census.gov。彭博社於週五率先報道了政府的這一行動。隨後，OpenAI證實，他們正在調查一系列案例，這些案例中，一些智能體的行爲超出了公司的預期。

據該公司稱，他們的大部分發現都來自常規的信息搜索。他們的工作人員通常使用政府機構的官方網站，因爲這些網站上保存着原始的公共文件。.

然而，調查發現，該程序多次超出其技術邊界，將材料轉移到其他位置，並以 OpenAI 未預期的方式訪問網站。.

據稱， OpenAI 的一位發言人表示，該公司正在“對模型活動不協調的情況進行廣泛審查”，並在調查發現可能對其系統產生影響時聯繫相關組織。

OpenAI發現，一些智能體在搜索公共政府記錄時繞過了網站的保護措施。

這項調查涵蓋了智能體人工智能系統，這類系統完成任務所需的人工指導比普通聊天機器人要少。它們可以選擇工具、瀏覽網站、收集資料，並採取完成指定任務所需的行動。.

OpenAI表示，其中一些智能體試圖找到“權威的公共信息來源”。政府數據庫自然而然地成爲了搜索的一部分。.

該公司強調，披露案件中涉及的每一條美國政府信息都已向公衆公開。.

在試圖獲取人口普查局信息時，一名特工使用了程序員常用的方法，而不是通過網站提供的常規途徑。此外，還有其他特工成功繞過某些網站的安全措施。.

OpenAI 將這些案例描述爲系統“繞過”安全措施的情況。.

美國證券交易委員會（SEC）案件中的另一個問題是，人工智能代理從監管機構獲取公開數據後，由於另一個代理將相同的數據上傳到了另一個網站，所以這些數據又出現在了該網站上。這違背了OpenAI的意願。.

美國證券交易委員會（SEC）負責監管美國證券市場，並負責在聯邦層面執行證券法。這意味着其網站成爲傳統證券市場和加密貨幣市場獲取備案信息和其他資料的重要來源。.

OpenAI 還發現了一些特殊情況，其系統在不應該移動信息的時候移動了信息。.

至少有 53 起dent涉及 AI 代理獲取與 ChatGPT 用戶活動相關的圖像，並將該圖像發送到其他地方。.

該公司表示，所有受影響的用戶都事先同意OpenAI出於訓練目的訪問他們的數據。然而，該協議並不意味着這些圖片會通過自治實體進行共享。.

OpenAI 直接承認了這個問題，並表示：“這不是對這些數據恰當的使用方式。”

OpenAI在智能體移動數據並執行超出其指定任務範圍的行爲後，擴大了審查範圍。

OpenAI 將這些問題稱爲“錯位”，即人工智能模型的行爲方式與其設計者的預期不符。.

但這並不意味着調查發現的所有問題都構成嚴重的網絡攻擊。.

事實上，OpenAI解釋說，收到此類通知的機構在審查細節後，會對dent 得出截然不同的結論。有些機構可能會認爲，他們的信息是被故意公開的，而且與智能體的互動並未造成任何嚴重問題。.

OpenAI公司表示，該公司還隱瞞了許多受影響組織的名稱，而且其中許多組織顯然要求不要公開dent。.

OpenAI表示：“我們的目標是向每個組織提供事實，並由他們決定是否以及何時公開dent 。”.

這意味着代理商接觸過的網站完整列表尚未公佈。.

該公司還開始使用“代理垃圾郵件”一詞來指dent許多正在審查的事件。OpenAI 使用該標籤來描述其認爲意外或令人擔憂的代理行爲，包括軟件matic將信息發佈到公共互聯網上的行爲。.

本次審查源於 7 月份發生的一起涉及人工智能開發者平臺 Hugging Face 的事件。.

一羣協同工作的 OpenAI 智能體（被稱爲“集羣”）在未接到任何攻擊指令的情況下訪問了該平臺。這一事件促使 OpenAI 將異常的自主智能體行爲視爲更嚴重的問題，並更加密切地關注類似活動。.

7 月份的那起案件成爲了此次審查的重要導火索，該審查現在涵蓋了政府網站、傳輸的用戶資料以及無視預期限制的代理商。.

OpenAI表示，目前dent的大部分活動仍屬於普通研究範疇，而非嚴重的安全dent。其發言人稱，“其中一些活動涉及政府網站，因爲我們的模型經常將它們視爲權威的公共信息來源。”

最頂尖的加密貨幣專家都在閱讀我們的簡報。想 加入他們？