五角大楼敦促OpenAI和Anthropico减少对机密军事人工智能工具的限制

五角大楼正向各大人工智能公司施加巨大压力，要求它们允许美军访问其机密系统中的工具。.

官员们要求的不仅仅是基本访问权限。他们希望这些人工智能模型能够在不受公司通常对用户设置的各种限制的情况下运行。.

周二在白宫的一次会议上，五角大楼首席技术官埃米尔·迈克尔告诉科技界领导人，军方希望这些人工智能模型能够在机密网络和非机密网络上运行。.

据称，一位接近谈判的官员表示，政府现在决心将所谓的“前沿人工智能能力”应用于各个层级的军事领域。.

五角大楼要求不受限制地访问安全网络

此次推动是围绕人工智能将如何应用于未来战争这一更广泛讨论的一部分。无人机群、机器人和持续不断的网络攻击已经开始影响战争格局。五角大楼不希望在科技界划定哪些技术被允许使用以及哪些技术被允许使用等问题时，才被迫追赶。.

目前，大多数与军方合作的公司提供的都是简化版的模型。这些模型只能在用于行政工作的开放式、非保密系统上运行。Anthropic是个例外。

其聊天机器人Claude可以在某些机密环境下使用，但只能通过第三方平台使用。即便如此，政府用户仍然需要遵守Anthropic公司的规则。.

五角大楼想要的是直接访问高度敏感的机密网络。这些系统用于诸如任务规划或目标锁定之类的用途。目前尚不清楚像 Claude 或 ChatGPT 这样的聊天机器人何时以及如何被安装到这些网络中，但这正是他们的目标。.

官员们认为人工智能可以帮助处理海量数据，并快速将其提供给决策者。但如果这些工具产生错误信息（而它们确实会产生错误信息），则可能造成人员伤亡。研究人员已经就此发出警告。.

OpenAI本周与五角大楼达成协议。ChatGPT现在将用于名为genai.mil的非机密网络。该网络目前已覆盖国防部超过300万名员工。

作为协议的一部分，OpenAI取消了许多常规的使用限制。虽然仍然保留了一些限制措施，但五角大楼基本实现了其目标。.

公司发言人表示，任何将技术扩展到机密用途都需要重新达成协议。谷歌和埃隆·马斯克的xAI公司过去也曾达成过类似的协议。

人工智能研究人员纷纷辞职，并指出其风险。

与Anthropic公司的谈判并不顺利。该公司领导人告诉五角大楼，他们不希望他们的技术被用于matic 瞄准或监视美国境内的人员。.

尽管克劳德机器人已被用于一些国家安全任务，但该公司高管却极力反对。一位发言人在一份声明中表示：

“Anthropic致力于维护美国在人工智能领域的领先地位，并通过让我们的作战人员获得最先进的人工智能能力，帮助美国政府应对外国威胁。”

他们说“克劳德”这个名字已经投入使用，而且该公司仍在与现在的国防部密切合作。唐纳德·特朗普dent 最近下令国防部采用这个名称，但仍需国会批准。.

与此同时，这些公司的一批研究人员正在离职。Anthropic公司的一位顶级安全防护研究员在辞职时表示，“世界正处于危险之中”。OpenAI的一位研究员也离开了公司，他表示这项技术“有可能以我们目前尚不了解，更遑论阻止的方式操纵用户”。

一些离职人员并非悄无声息地离开。他们警告说，事情发展得太快，风险被忽视了。在OpenAI工作了两年的佐伊·希齐格（Zoë Hitzig）本周辞职了。.

她在一篇文章中表示，她对该公司计划如何引入广告“深表保留意见”。她还指出，ChatGPT会存储用户的私人数据，例如“医疗方面的担忧、人际关系问题、对上帝和来世的信仰”。

她说这是一个很大的问题，因为人们信任聊天机器人，并不认为它有任何隐藏的动机。.

大约在同一时间，科技网站Platformer报道称，OpenAI解散了其使命协调团队。该团队成立于2024年，旨在确保公司“构建造福全人类的人工智能”这一目标真正得以实现。.

最顶尖的加密货币专家都在阅读我们的简报。想加入他们？