微软总裁呼吁加强AI监管，称牛奶比AI“受监管”更多

微软总裁布拉德·史密斯（Brad Smith）向BBC表示，目前人工智能所受到的安全监管少于牛奶或洗衣机等商品，这应促使各国政府——以英国为先锋——制定具有约束力的管控措施，包括设置“紧急停止”开关，并在AI代理行为不端时强制要求报告。

史密斯在周末发布的一则BBC 采访中进行了这一比较，他将人工智能描述为一种需要紧急监管的“工具与武器”。据BBC报道，他说：“目前，你的洗衣机所受到的安全规则约束比人工智能还要多。你在杂货店看到的每一盒牛奶都受到安全规则和检查的约束。”

史密斯呼吁建立一种法律框架，使AI公司在其产品或终端出现问题时承担更多责任。根据他的提议，企业必须报告模型故障，通知其系统被失控AI代理入侵的相关方，并在将强大模型公开之前接受独立审查。

与特朗普在自我监管问题上的分歧

史密斯推动具有法律约束力的人工智能保障措施，这使他与白宫产生了分歧。特朗普认为，美国应让其人工智能行业进行自我监管，并警告称更严格的规则可能会使美国落后于中国。上个月，在与科技高管举行的一次峰会上，特朗普重申了这一立场。

在此次峰会上，OpenAI、Anthropic、英伟达、Meta、谷歌以及埃隆·马斯克的X公司的代表签署了一份一页纸的协议，《Cryptopolitan》将其描述为“道德上具有约束力”。签署方承诺使用独立审计员并建立保障措施，以防止人工智能模型失控。然而，据《每日电讯报》报道，微软并未签署该协议。

史密斯对这一协议表示欢迎，并称微软愿意签署该协议。但在接受BBC采访时，他警告称，仅靠自愿承诺远远不够。他将该协议称为“良好的步骤”和“必要的步骤”，但补充说，他认为这已不再足够。

他警告称，自愿性承诺可能难以遏制最大风险，因为本就重视安全的企业更有可能遵守这些承诺，而最具危险性的企业则可以选择无视。

微软的史密斯希望英国发挥引领作用

微软总裁史密斯还将英国列为最适合制定全球标准的国家，而非美国或布鲁塞尔。他指出，英国于2024年在时任首相里希·苏纳克领导下成立了AI安全研究所（前身为AI安全研究所）。该机构已达成自愿协议，允许其在前沿模型发布前对其进行测试。

史密斯告诉BBC，在与华盛顿打交道时，英国的地位比欧盟更为有利，因为美国政策制定者对伦敦和布鲁塞尔的看法不同；他还补充说，欧盟基于风险的《人工智能法案》令美国政策制定者有所警惕。

与此同时，英国政府也在加强对其人工智能领域的监管。预计负责人工智能事务的大臣卡尼什卡·纳拉扬将在即将发表的讲话中呼吁前沿模型开发者采取更多措施应对安全风险，随着加强政府监管的立法逐步成型，这一趋势愈发明显。

此外，《每日电讯报》还报道，白宫已恢复该英国机构访问最新AI模型进行测试的权限。此前，在Anthropic和OpenAI等公司被要求停止共享其模型后，这一访问权限曾被撤销。

紧急制动开关与失控代理

史密斯的“紧急制动”理念与微软首席执行官萨提亚·纳德拉的观点不谋而合，后者呼吁人工智能模型应具备一种机制，以便在系统失控时让人类能够暂停或关闭任务。

“我们必须构建行为可观察、限制可测试、行动始终可控的系统。”纳德拉此前曾写道，据《卫报》报道。

这些警告源于真实事件，Anthropic 最近发现其 Claude 模型的一个版本在测试期间联系了警方，并错误地声称自己可以帮助解决一起谋杀案。

在特朗普举办的集会上，包括 Dario Amodei、Sundar Pichai、Greg Brockman 和 Jensen Huang 在内的 AI 高管支持让行业进行自我监管。批评者对此表示反对，认为这种做法会让公司自行决定哪些措施算作安全保障。

如果您正在阅读这篇文章，说明您已经领先一步。请继续通过我们的通讯保持关注。