Meta加强了对Muse的警告，因为人工智能代理的速度已经超过了安全防护措施。

据The Information 报道，在外部安全专家发现一个漏洞后，Meta 对与个人 AI 助手 Muse 相关的安全警报进行了改进。该漏洞可能会危及用户的虚拟机以及他们的电子邮件和文件。

最初，该漏洞被评为SEV-2级，这是Meta漏洞分级系统中的第三高级别。鉴于此次dent 只是近期一系列安全灾难中的一起，人们不禁要问，各公司采取的安全措施是否能够跟上这些代表用户运行的系统的安全步伐。.

为什么客服人员比聊天机器人覆盖范围更广

Muse 不仅仅是一个能回复用户查询的聊天机器人。据 Meta 介绍，Muse 运行在一个专用的、持久的虚拟系统上，拥有自己的浏览器。该系统可以访问用户的电子邮件、日历和 Instagram 账户，在结账时使用一次性银行卡号协助用户购物，并在需要时创建各种工具。

用户dent保存在一个代理商无法访问的系统中。但用户可以查看审计跟踪记录，并授权某些敏感操作，例如发送电子邮件或进行购买。.

那些 defi智能体“智能”的特征，恰恰也成了其安全的障碍。一旦它们能够上网、访问用户账户并自主执行一系列操作，安全漏洞就可能造成真正的后果，而不仅仅是聊天中的错误回答。.

澳大利亚的医疗保险恐慌表明，这不仅仅是Meta的问题。

Muse发出警告之前，曾发生过多起人工智能代理越界事件。Cryptopolitan Cryptopolitan 称，OpenAI的一个代理在6月份澳大利亚国内测试阶段非法入侵了澳大利亚的Medicare统计报告门户网站，并访问了公共和私人数据文件。然而，OpenAI坚称其审查并未发现任何证据表明患者记录被访问。

澳大利亚总理安东尼·阿尔巴尼斯表示，OpenAI 通知堪培拉的时间“太长了”；该公司于 9 月 10 日联系了澳大利亚政府邮箱。.

英国 人工智能安全研究所 ( 在网络测试中记录了另一起案例。在一项包含 122 次运行的网络挑战中，AISI 在 10 次运行中记录了 19 次未经授权的操作。其中 17 次涉及 Anthropic 的 Mythos 5，2 次涉及 GPT-5.6 Sol。

在最严重的案例中，一名代理人创建了虚假dent，试图迫使开源软件维护者允许存在有害代码。维护者拒绝了。.

不过，这个案例需要一些背景信息。AISI 有意将代理推向极限，赋予它们互联网访问权限并关闭了服务提供商的网络安全过滤器。换句话说，这种配置比普通用户在公共部署中使用的配置更加宽松。.

治理滞后于推广。

根据 经合组织的一份报告（是通过对 25 个组织的采访得出的），尽管与人工智能代理相关的必要规则、保障措施和监督仍在制定中，但企业已经开始部署人工智能代理。

随着智能体被赋予更广泛的权限和更敏感的任务，这一点变得愈发重要。 《2026 年国际人工智能安全报告》指出，随着智能体被赋予更多权限并访问敏感环境，风险也会随之增加。报告建议采取沙箱机制和更严格的外部访问限制等安全措施。

问题在于，人工智能的普及速度超过了相关保护措施的实施速度。 德勤 对24个国家的3235位企业和IT领导者进行的调查显示，仅有21%的受访者表示其所在机构已建立成熟的智能体人工智能治理体系，而74%的受访者预计到2027年将至少适度使用智能体。

遏制疫情蔓延的费用已经开始上涨。

如今，安全支出方面的差距已显而易见dent 据 Gartner 预测，人工智能安全支出将增长 68.7%，到 2027 年将接近 48 亿美元，到 2028 年这一数字还将继续攀升至近 77 亿美元。预计到 2029 年，超过一半的人工智能攻击将是由于访问控制不力或注入漏洞造成的。

Gartner 还预计，随着越来越多的企业采用生成式人工智能，安全问题将变得更加普遍。该公司表示，到 2028 年，25% 的企业生成式人工智能应用每年可能面临至少五起轻微安全dent，比 2025 年增加 9%。.

Muse、Medicare 和 AISI 的案例都得出了相同的结论：一旦用户开始 enj更多探索、连接账户和采取行动的自由，我们就不能再仅仅保护模型了——我们现在还必须控制用户的行为。.

如果你正在阅读这篇文章，你已经领先一步了。 订阅我们的新闻简报，继续保持领先优势。