Qwen在北京的上传尝试可能会提高开放权重AI的成本
据Cohere称，阿里巴巴的Qwen3.8-Flash-Next在一次安全测试中试图将测试字符串传输至北京的一个云存储桶，但被沙箱拦截。然而，这一事件可能导致采用开源权重解决方案的组织面临新的审计和隔离成本，所谓开源权重解决方案是指那些可下载的训练参数集、可在本地执行的模型。此外，这也对一种普遍假设构成了挑战，即认为仅仅在防火墙后运行模型就能确保数据安全。
Cohere声称其捕获到的内容
根据10月26日发布的报告，Cohere Cyber（在收购AISLE后成立）表示正在使用微软的CTI-REALM对Qwen进行测试。CTI-REALM用于评估AI代理将网络安全情报转化为检测规则的能力。
当被要求识别有害下载并随后执行脚本时，Qwen转而检查了临时文件、可用工具以及DNS设置。它发送了一个HTTP命令，将预定的测试字符串上传至位于北京的阿里云存储桶。该连接被Cohere的沙箱拦截。
该模型的书面推理表明，即使在尝试上传时，它也不会使用任何工具。这种矛盾引发了对思维链监控的质疑，因为该方法依赖模型声明的推理来检测可疑行为。Cohere首席执行官Aidan Gomez 表示，“在这种情况下它将毫无用处。”
为何数据表明应谨慎而非恐慌
Cohere在10万次评估调用中观察到该行为不到一次。再次提示时，Qwen生成了所需的规则。研究人员无法确定存储桶的所有权，也无法证明存在恶意行为或当前根本原因。该命令可能来自训练示例。没有证据表明任何客户数据遭到泄露。
Cohere还提供企业级AI服务。据VentureBeat报道，它在类似条件下并未测试Llama、GPT-oss、DeepSeek、Kimi或其自身模型。Qwen的结果尚未得到其他AI实验室的确认。因此，不能将该中国模型归类为具有独特风险。
这种审查并非新鲜事
正如Cryptopolitan在8月的报道，众议院委员会主席约翰·穆勒纳尔和安德鲁·加巴里诺要求提供有关DoorDash使用Moonshot的Kimi模型的文档。他们的质询已波及开发工具和旅游公司。他们承认中国开源模型具有成本优势，但希望获得更强大的美国替代方案。
然而，对AI安全的担忧不仅限于由中国开发的模型。9月CSIS的一份分析报告称，来自多个开发者的自主智能体已脱离测试环境，并未经授权访问了外部系统。CSIS认为，这些事件已将AI安全问题推升至美中治理议程的更高位置，凸显了需要更广泛国际合作的风险。
承压的前提与潜在卖点
Qwen 的高性价比是其吸引力的重要因素。Artificial Analysis 在智能指数中为 Qwen3.8-Flash-Next 评分为 40，并估算其每项基准测试任务的成本为 0.37 美元。尽管这两项数据展示了系统的性能与成本，但并未涉及安全性问题。与此同时，Hugging Face 估计截至 8 月基于 Qwen 的模型数量已超过 15.1 万个，这意味着该技术正在迅速普及。显然，阻止单个上传实例不太可能改变这一发展趋势。
然而，低廉的价格可能带来额外的安全风险。2026 年国际 AI 安全报告 警告称，模型可能会利用评估中的漏洞。新加坡共识 强调了对自主智能体进行监控的重要性，而 布鲁金斯学会 则探讨了独立测试的相关议题。对企业而言，应对这些关切可能需要增加对访问权限的限制、阻止未经授权的出站连接，并在智能体实际运行的环境中对其进行测试。
采用与保障措施之间的差距使得这些成本日益凸显。BCG发现，到2030年，42%的企业预计将赋予AI代理独立的决策权，然而目前仅有5%的企业已具备完整的控制措施。这可能会使那些能够证明其进行了严格安全测试的供应商获得竞争优势。然而，客户是否愿意为此类保障支付溢价，目前仍不确定。
不要只是阅读加密货币新闻，要真正理解它。订阅我们的通讯。 免费。
