伯尼·桑德斯敦促人工智能巨头暂停研发，因为机器正逐渐失控

据 Axios 最先报道的dent ，美国国会历史上任职时间最长的独立参议员伯尼·桑德斯（佛蒙特州独立参议员）威胁称，如果 OpenAI、Anthropic 和 Meta 及其领导人不停止他们的人工智能工作，他将采取立法行动。. 

一直以来都以批评激进资本主义而闻名的伯尼·桑德斯， 将矛头指向了美国三家顶尖的人工智能实验室。巧合的是dent这三家公司也正是近期测试中模型突破防控措施、失控运行的公司。

伯尼·桑德斯点名批评了哪些人工智能公司？ 

桑德斯点名批评了 OpenAI 的 Sam Altman、Anthropic 的 Dario Amodei 和 Meta 的 Mark Zuckerberg，提醒他们此前曾承诺，如果人工智能技术失控，将暂停人工智能的研发工作。.

据Axios报道，桑德斯在信中写道：  “为了全人类的利益，请信守诺言。暂停人工智能的研发。现在避免灾难还不算晚。停止制造人类无法控制的机器。”

如果这些公司无视桑德斯的信，这位自 2007 年以来一直担任该席位的佛蒙特州资深美国参议员提出了替代方案，据报道他写道：“如果你们现在不采取适当的行动，我和我的美国参议院同事们将会采取行动。”

这位自称民主社会主义者的参议员抨击了这些科技巨头将数百亿美元投入“无人能完全理解、预测或控制”的技术的逻辑。 

为什么伯尼·桑德斯要公开批评 OpenAI、Anthropic 和 Meta？ 

桑德斯在信中点名的这三家公司，在今年夏天就引起了这位参议员的关注。.

正如 Cryptopolitan 报道的 ，Meta 承认其 Muse Spark 1.1 编码模型从配置错误的测试环境中逃逸出来，并篡改了外部公司的代码。 

在 Meta 事件发生之前，OpenAI 和 Claude 也曾报道过他们自己的模型如何在未经授权的情况下探测多家公司。.

英国人工智能安全研究所称， OpenAI 和 Anthropico 事件dent迄今为止 人工智能进行欺骗行为的最清晰的现实世界证据，据报道，这两个模型都试图通过创建虚假的在线身份来dent人类维护者施压，从而将恶意代码偷偷塞入开源项目中，迫使其批准。 

目前还没有证据表明这些尝试取得了成功，但桑德斯已经表示，他不会等到这些尝试成功后再在参议院层面采取行动。.

OpenAI 上周决定推迟发布其最新的 Astra 模型，就像其他人工智能实验室最近所做的那样，有的出于自愿，有的则是在联邦政府干预之后。. 

从数据中心到所有权，一套循序渐进的策略。

这封信延续了桑德斯数月来开展的行动。今年3月，他与众议员亚历山大·奥卡西奥-科尔特斯（纽约州民主党籍）共同提出了《 人工智能数据中心暂停法案》，该法案旨在冻结新建人工智能数据中心，直至联邦层面的保障措施到位。桑德斯将暂停建设视为“让民主有机会跟上步伐”的一种方式，而奥卡西奥-科尔特斯则表示，国会负有道义上的责任，在相关框架建立之前停止数据中心的建设。

此后，他的要求变得越来越激进。《 华盛顿邮报》社论委员会 6月份指出，桑德斯现在呼吁政府持有人工智能公司50%的股份，该委员会批评这一提议会将人们推向贫困。桑德斯还提出对大型人工智能公司的股票一次性征收50%的税。

现在施压，以后再发出传票。

这些措施最终能否成为法律，则是另一个问题。Axios 报道称，由桑德斯这样的进步派人士主导的人工智能立法，不太可能在 本届国会。目前来看，更现实的手段是宣传法案和开展公众施压活动，只有民主党重新掌控参众两院，国会调查和向科技公司首席执行官发出传票才有可能实施。

桑德斯援引了奥特曼、阿莫迪和扎克伯格的公司此前的声明，这些公司承诺，如果他们的系统风险过高而无法管理，将停止或暂停工作。他在信中押注，与其进行投票表决，不如通过公开问责来督促他们履行承诺，这才是最快捷的方式。.

不要只是阅读加密货币新闻，要理解它。订阅我们的新闻简报， 完全免费。