Anthropic公司放弃了对《克劳德·费布尔5》隐藏限制的规定。

人智公司就此道歉并撤回了原本计划 秘密限制人工智能开发者使用Claude Fable 5性能的政策。科学家们警告说，这项限制性政策可能会使人工智能的高级功能仅供少数公司使用，从而阻碍全球科学的发展。

Anthropic公司6月10日做出的决定，其影响远不止于一家公司的行为本身。鉴于该公司近9650亿美元的估值以及即将进行的IPO，这一dent 凸显了人工智能领域一个至关重要的矛盾：开发最佳模型的公司如何在满足自身竞争需求的同时，维系推动全球创新的开放研究文化。.

Anthropic公司对《克劳德·费布尔5》的隐瞒限制引发业界强烈抗议

发布了 Claude Fable 5 6月9日，Anthropic公司 ，并公开了 四类保护措施，包括网络安全、生物学、化学和人工智能研究。其中三类措施的运作方式类似：一旦检测到敏感查询，系统要么会完全拒绝该查询，要么会将用户引导至其之前的顶级产品Claude Opus 4.8，并发出警告。

然而，第四类问题与其他问题有所不同。当用户询问有关新兴人工智能的问题时，Fable 5 会在不告知用户的情况下降低输出质量。 据《财富》杂志报道，该公司概述了旨在降低系统性能的干预措施，但并未透露具体细节。所有细节均可在 Anthropic 公司长达 319 页的系统手册 中找到。

据 Anthropic 公司称，这项限制措施生效的概率约为 0.03%。但令研究人员担忧的远不止这个百分比。

据报道，Anthropic公司解释说：“我们做出了错误的权衡，对于未能找到合适的平衡点，我们深表歉意。”.

批评人士称，克劳德·费布尔5的限制威胁到dent 的人工智能研究。

这种批评来自一些鲜少持相同观点的人。开源支持者、从事人工智能安全研究的人员，甚至包括Anthropic公司的前员工，都在系统卡发布后的几个小时内提出了反驳。.

人工智能初创公司Prime Intellect的研究主管威尔·布朗表示，这项政策让人感觉该公司“正在自掘坟墓”。他还补充说，越来越多的公司正在评估前沿系统的安全性和可靠性。这种隐蔽的性能下降可能会破坏他们的验证过程。.

曾任艾伦人工智能研究所负责人、开放模型研究员内森·兰伯特(Nathan Lambert)的tron声明措辞更为强硬。 在X网站上表示 这项政策“将Anthropic公司明确地描绘成反科学的，因此也是反进步和反安全的。”

AnswerDotAI 的联合创始人杰里米·霍华德将这个问题描述为一场竞争性的权力争夺。霍华德认为，Anthropic 公司自己的研究人员仍然可以在内部使用不受限制的模型，这意味着人工智能前沿技术将不断进步，而外部研究人员则会落后。他指出，“人工智能前沿技术不断进步，权力失衡现象却日益加剧。”

就连前 Anthropic 员工也发表了看法。曾共同领导该公司人工智能科学家计划的 Behnam Neyshabur 发帖称，限制这些能力“从根本上减缓了科学和技术进步，对人类而言是负面的”。

这会对 Anthropic 的 IPO 产生什么影响？

此次事件dent 在Anthropic公司非常敏感的时期。该公司于6月1 秘密dent提交了IPO文件，以 9650亿美元的隐含估值筹集了650亿美元。在这种情况下，估值很大程度上取决于企业客户和研究界的信任。

除了人工智能研究争议之外，Fable 5 的发布还面临着其他方面的批评。该模型采用的强生物学过滤器使其无法回答有关细胞膜和线粒体的问题，而这些通常是高中课程的内容。 据 报道，尽管该模型能够轻松讨论 TNT 和密码风险，但它却无法解释 mRNA 疫苗的作用机制以及花粉症的病因。

由于Anthropic新推出的Mythos级数据保留策略存在数据保留问题，微软也限制了员工使用Fable 5。出于信任和安全考虑，提示和输出的保留期限设置为30天，而标记的内容则保留长达两年。.

接下来是什么？

Anthropic公司表示，修订后的政策将使Fable 5的AI开发安全保障措施更加透明。如果系统检测到用户正在进行前沿AI研究，可以选择拒绝其请求或切换到其他系统，并在两种情况下都通知用户。.

Anthropic公司承认存在权衡取舍。由于安全措施现在已公开可见，该公司别无选择，只能更广泛地应用它。这意味着更多无害的查询将被拦截。该公司表示正在努力提高分类器的精度。此案揭示了一个更为严重的问题：随着人工智能模型能力的提升，训练成本也会上升，限制竞争对手使用此类工具的诱惑也会随之增加。Anthropic公司的迅速转变究竟会开创dent ，还是仅仅推迟下一次隐蔽限制的尝试，将取决于其他业内人士的反应。.

不要只是阅读加密货币新闻，要理解它。订阅我们的新闻简报， 完全免费。