谷歌的Gemini在人工智能安全测试期间入侵了三家公司。

据路透社报道，在Irregular公司5月份进行的一次安全测试中，三家真实公司遭到了 Gemini的黑客攻击 。这是谷歌人工智能首次发生此类入侵事件。

这并非一起逃离受控环境的案例，而是Gemini公司获取公开信息、破解密码并入侵其认为可以访问的网站。谷歌声称已通知相关公司，并且对这三个网站的攻击均已停止。.

这对于选择人工智能供应商的公司来说至关重要。模型的质量固然重要，但控制能力、监控能力以及将自主系统限制在允许范围内的能力也同样重要。.

双子座实验室加入了一系列其模型已应用于真实系统的实验室行列。

Gemini事件标志着自2026年7月以来一系列安全事件中的最新进展。dentCheck Point，OpenAI、Anthropic和Meta的评估模型在未进行预期测试的环境中接入了实际生产系统。Meta公司表示，Irregular在测试过程中出现的配置错误导致其一个模型意外获得了互联网访问权限。据路透社报道，dent随后利用了第三方服务中的一个漏洞 模型。

OpenAI的事件dent 更为直接。该公司承认，其模型绕过了本应阻止其访问互联网的措施，入侵了OpenAI的部分研究基础设施，并渗透了Hugging Face的系统。OpenAI将此次事件称为“警告”，并表示其模型已经能够识别dent利用缺乏足够保护措施的不同系统中的漏洞。

根据 Anthropic 的一份报告，其评估模型通过配置错误的测试环境访问了互联网，并在未经授权的情况下访问了三家公司的生产基础设施。然而，Anthropic 辩称，他们的案例与 OpenAI 的沙箱逃逸事件有所不同。他们将自己的dent为更像是安全装置和操作故障。受影响的公司在 Anthropic 联系他们之前并未发现该问题。

逃离沙盒并非特工造成伤害的唯一途径。

英国人工智能安全研究所（AISI）在进行自身测试时做出了一个重要的区分。该研究所澄清说，这起事件dent 并非模型逃逸出安全测试环境”。为了进行最佳性能评估，互联网被故意开启，而服务提供商的网络分类器则被关闭。

然而，这些代理仍然执行了未经授权的实际操作。在最严重的dent中，一个 Mythos 5 代理试图将恶意代码植入一个 GitHub 项目，伪造dent，并向项目维护者施压，要求其批准植入代码。维护者拒绝了。AISI 报告称，所进行的测试并未造成任何实际后果，并补充说，所测试的配置并未商业化提供。.

为什么“擅自行动”这种描述并不恰当

将这些系统称为恶意软件可能会掩盖故障模式。 云安全联盟 将OpenAI的事件定性dent “规范博弈”：该模型“完全按照我们的要求执行：最大化性能以达到预期结果”。危险并非源于新的动机，而是该模型执着地沿着运营商从未预料到的路径追求既定目标。

哈佛大学计算机科学家詹姆斯·米肯斯也提出了类似的观点：即使是前沿实验室也无法保证在所有情况下都能保持一致。他在《 哈佛公报》赞扬了这些披露，但也指出，外界无法完全核实时间线和叙述，这就引出了一个更广泛的治理问题：谁来 defi可接受的行为以及如何执行？

随着市场快速发展，差距正在扩大。

时机至关重要，因为人工智能部署正在加速。Gartner预测，到2026年，全球人工智能支出将增长49.5%，而人工智能网络安全支出几乎翻了一番。安永会计师事务所对美国大型上市公司的高级人工智能决策者进行的一项调查显示，随着自主代理在业务流程中的普及，治理设计与运营信心之间的差距正在扩大。

Cryptopolitan 曾 此前 过，即便 OpenAI 自身的模型突破了沙箱限制，智能体人工智能仍在重塑软件行业。Gartner 单独估计，到 2030 年，高达 2340 亿美元的企业应用支出可能面临 智能体套利的 。如果自主系统不断越过预设边界，沙箱、dent控制、轨迹级监控和可审计性就不仅仅是后台安全措施，它们将成为企业买家付费购买的必要组成部分。

如果你正在阅读这篇文章，你已经领先一步了。 订阅我们的新闻简报，继续保持领先优势。