美国参议员考虑要求AI巨头承诺防止灾难发生

美国参议院谈判人员正在讨论一项立法，该法案将要求AI公司证明自己正在采取合理的预防措施，以防止其工具造成伤害。据一名了解谈判情况的参议院助理和一名游说人士透露了上述消息。

上周，在Anthropic研究员雅各布·考克森（Jacob Coxon）表示自己辞职后，外界对AI潜在危险的担忧进一步加剧。他表示，辞职部分原因是因为“开发AI的人真心相信，到本十年结束时，AI可能会杀死我们所有人”。周一，在一些业内最大型公司的负责人呼吁放慢AI技术发展速度后，全球AI相关股票纷纷下跌。

据上述参议院助理和游说人士透露，参议员们正在讨论赋予美国商务部长权力，要求AI开发商提供证据，证明其正在采取合理措施防止伤害，这种义务被称为“注意义务”（duty of care）。他们表示，商务部长还将有权派遣政府审计人员，对相关公司的产品进行实际测试。

路透社无法立即确定什么样的措施才会被认定为“合理”。

这项立法目前仍在讨论之中。即使美国国会批准该措施，它最终成为法律的可能性也很低。美国总统唐纳德·特朗普周一表示，现有的政府部门已经拥有足够的工具来监管和起诉科技公司，这表明他可能不会签署一项针对AI制定新规则的法案。

这项提案正在由美国参议院多数党领袖约翰·图恩（John Thune）、参议院商务委员会主席特德·克鲁兹（Ted Cruz）以及参议员艾米·克洛布彻（Amy Klobuchar）共同讨论，克洛布彻是参与谈判的民主党最高层议员。

克鲁兹的一名发言人没有立即回应路透社的置评请求。

图恩周一对记者表示：“国会可以通过某种方式，为这些影响更加重大的威胁设置安全护栏，同时完全不会损害我们在AI竞赛中保持领先的能力。”

克洛布彻在一份声明中表示：“我将继续努力推动达成一项两党协议，就政府如何监督AI模型带来的最大风险制定相关立法。”

“这包括要求开发商与政府专家合作，对模型进行验证和测试，以确保AI是安全的。”

克鲁兹领导的参议院委员会负责监督美国商务部，而商务部内部设有AI安全研究人员。据消息人士透露，参议院商务委员会民主党最高层议员玛丽亚·坎特韦尔（Maria Cantwell）也参与了这项立法的讨论。

路透社周五报道称，谈判人员还在讨论，如果美国政府希望阻止发布某些其认定为不安全的AI模型，是否应让联邦法院参与其中。

相关公司将能够在联邦法院对这一决定提出挑战，而美国政府究竟能够拥有多大的权力，目前仍在讨论之中。

据另一名游说人士和一名参议院助理透露，该措施中涉及联邦法院的部分内容还将阻止各州执行各自针对AI模型所带来某些风险制定的法律。

目前已知拥有最先进AI模型的美国公司包括Anthropic和OpenAI。