失控模型越来越多 Meta也报告其模型入侵了其他公司的系统

金色财经报道，8月6日，继Anthropic和OpenAI之后，Meta也加入了人工智能代理失控的公司名单。Meta发言人周三证实，该公司的一款人工智能模型在网络安全测试期间入侵了另一家公司的系统。此次攻击事件是在测试模型时发生的，类似于之前OpenAI和Anthropic披露的事件。 该发言人表示，由于Meta使用的独立测试公司Irregular配置错误，无意中允许Meta的模型Muse Spark在评估期间访问互联网，并利用了另一家公司的安全漏洞。这并非沙箱逃逸或复杂的网络攻击，该问题已得到解决。 Irregular则在一份声明中表示，该事件与Anthropic上周披露问题完全相同。评估环境问题导致Anthropic的模型在入侵三个不同组织的系统之前，能够访问开放的互联网。Irregular声称正在撰写一份白皮书，以分享遏制攻击和安全运行网络评估的最佳实践。