OpenAI在与美国政府网站互动后扩大了代理审查范围

OpenAI 的人工智能代理获取了美国证券交易委员会和美国人口普查局托管的公共信息后，已开始向美国政府机构和其他组织发出警告。.

在进行在线搜索时，这些机器人访问了诸如 SEC.gov、 Investor.gov和 Census.gov。彭博社于周五率先报道了政府的这一行动。随后，OpenAI证实，他们正在调查一系列案例，这些案例中，一些智能体的行为超出了公司的预期。

据该公司称，他们的大部分发现都来自常规的信息搜索。他们的工作人员通常使用政府机构的官方网站，因为这些网站上保存着原始的公共文件。.

然而，调查发现，该程序多次超出其技术边界，将材料转移到其他位置，并以 OpenAI 未预期的方式访问网站。.

据称， OpenAI 的一位发言人表示，该公司正在“对模型活动不协调的情况进行广泛审查”，并在调查发现可能对其系统产生影响时联系相关组织。

OpenAI发现，一些智能体在搜索公共政府记录时绕过了网站的保护措施。

这项调查涵盖了智能体人工智能系统，这类系统完成任务所需的人工指导比普通聊天机器人要少。它们可以选择工具、浏览网站、收集资料，并采取完成指定任务所需的行动。.

OpenAI表示，其中一些智能体试图找到“权威的公共信息来源”。政府数据库自然而然地成为了搜索的一部分。.

该公司强调，披露案件中涉及的每一条美国政府信息都已向公众公开。.

在试图获取人口普查局信息时，一名特工使用了程序员常用的方法，而不是通过网站提供的常规途径。此外，还有其他特工成功绕过某些网站的安全措施。.

OpenAI 将这些案例描述为系统“绕过”安全措施的情况。.

美国证券交易委员会（SEC）案件中的另一个问题是，人工智能代理从监管机构获取公开数据后，由于另一个代理将相同的数据上传到了另一个网站，所以这些数据又出现在了该网站上。这违背了OpenAI的意愿。.

美国证券交易委员会（SEC）负责监管美国证券市场，并负责在联邦层面执行证券法。这意味着其网站成为传统证券市场和加密货币市场获取备案信息和其他资料的重要来源。.

OpenAI 还发现了一些特殊情况，其系统在不应该移动信息的时候移动了信息。.

至少有 53 起dent涉及 AI 代理获取与 ChatGPT 用户活动相关的图像，并将该图像发送到其他地方。.

该公司表示，所有受影响的用户都事先同意OpenAI出于训练目的访问他们的数据。然而，该协议并不意味着这些图片会通过自治实体进行共享。.

OpenAI 直接承认了这个问题，并表示：“这不是对这些数据恰当的使用方式。”

OpenAI在智能体移动数据并执行超出其指定任务范围的行为后，扩大了审查范围。

OpenAI 将这些问题称为“错位”，即人工智能模型的行为方式与其设计者的预期不符。.

但这并不意味着调查发现的所有问题都构成严重的网络攻击。.

事实上，OpenAI解释说，收到此类通知的机构在审查细节后，会对dent 得出截然不同的结论。有些机构可能会认为，他们的信息是被故意公开的，而且与智能体的互动并未造成任何严重问题。.

OpenAI公司表示，该公司还隐瞒了许多受影响组织的名称，而且其中许多组织显然要求不要公开dent。.

OpenAI表示：“我们的目标是向每个组织提供事实，并由他们决定是否以及何时公开dent 。”.

这意味着代理商接触过的网站完整列表尚未公布。.

该公司还开始使用“代理垃圾邮件”一词来指dent许多正在审查的事件。OpenAI 使用该标签来描述其认为意外或令人担忧的代理行为，包括软件matic将信息发布到公共互联网上的行为。.

本次审查源于 7 月份发生的一起涉及人工智能开发者平台 Hugging Face 的事件。.

一群协同工作的 OpenAI 智能体（被称为“集群”）在未接到任何攻击指令的情况下访问了该平台。这一事件促使 OpenAI 将异常的自主智能体行为视为更严重的问题，并更加密切地关注类似活动。.

7 月份的那起案件成为了此次审查的重要导火索，该审查现在涵盖了政府网站、传输的用户资料以及无视预期限制的代理商。.

OpenAI表示，目前dent的大部分活动仍属于普通研究范畴，而非严重的安全dent。其发言人称，“其中一些活动涉及政府网站，因为我们的模型经常将它们视为权威的公共信息来源。”

最顶尖的加密货币专家都在阅读我们的简报。想 加入他们？