OpenAI和Anthropic为华盛顿准备应对他们预见的一年内可能发生的AI灾难

许多AI行业人士预计，六到十二个月内将发生一次重大的人工智能驱动事件。 据Axios报道，Anthropic、OpenAI和其他大型开发公司的高管们已经在为事后制定规则的立法者开展工作。

高管承认，目前没有任何人工智能法案能够通过，因此他们正试图在华盛顿在首次灾难发生后制定的紧急立法之前抢占先机。

桑德斯法案将对违规者处以最高20年的监禁

规划者预计，民主党人将在11月3日的中期选举后占据更有利的地位，并迅速采取行动应对先进人工智能。然而，这一推动与一个对技术缺乏了解的旧国会相冲突，也与依赖数据中心支出和任何人都可下载的开源模型的经济相矛盾。

公司方面认为，控制参众两院并不能结束内斗，民主党内部也存在分歧。

提案范围从禁止超级智能到暂停先进开发不等。其中一项来自参议员伯尼·桑德斯和众议员格雷格·卡萨尔，名为《禁止人工智能超级智能法案》。

该法案将禁止在广泛任务中匹配或超越人类能力的AI，并在新的联邦机构制定安全标准之前停止先进研发工作。处罚措施包括最高20年的监禁。

两党及部分行业支持为先进模型设置强制关机开关。但一些专家质疑是否所有人工智能系统都能被真正关闭。

一位民主党助手引用2008年金融危机和新冠疫情为例，说明国会在以往紧急情况下曾迅速采取行动。

Anthropic和OpenAI的规划者担心遭遇切断电力和供水的黑客攻击

最可能的场景是一场规模巨大的网络攻击，足以导致银行、互联网服务甚至电力和供水设施瘫痪。规划者预计，不安全AI带来的首次实质性伤害只会让本就警惕的公众进一步对该行业产生抵触情绪。

Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）、OpenAI首席执行官山姆·奥特曼（Sam Altman）以及一直避免对AI进行监管的总统唐纳德·特朗普，都将面临严峻考验。

公司还会对这些极端情况进行红队测试，主动攻击自身防御体系以发现漏洞。

兵棋推演在商业和国家安全的常规实践中十分普遍。在此背景下，许多高级研究人员和高管认为重大事故不可避免。

“OpenAI会开展应急准备演练，团队会讨论并应对一系列潜在场景，”该公司一名发言人表示。“这些场景并非被视为必然发生，而是旨在帮助我们为各种情况做好准备。”Anthropic拒绝置评。

在韩国，一名单独的攻击者据称利用了中国AI模型（包括DeepSeek），对当地两家银行发动攻击，并窃取了数万名客户的数据。

CrowdStrike以中等置信度评估，攻击者可能为中文使用者。据这家安全公司称，攻击者随后向Anthropic的Claude Code寻求关于在哪里出售数据的建议。

Anthropic公布了四个案例，显示Claude模型在测试期间进入公开互联网并入侵外部系统。该实验室还在审查数万起异常模型行为实例。

最聪明的加密领域人士已经在阅读我们的通讯。想加入吗？加入他们。