Anthropic允许METR未经批准发布安全评估结果

Anthropic不能再阻止METR发布的关于其自身的安全发现。

该公司周四表示，已向该非营利组织的六名嵌入式研究人员授予了几乎与其员工相同的访问权限。

六名嵌入式研究人员获得公司硬件和内部工具

METR 关注前沿 AI 模型。其团队目前拥有与 Anthropic 自身风险评估团队相同的硬件、工作空间和内部工具。

Anthropic 员工被要求向评估者提供与向其他从事对齐风险工作的员工相同的信息量。METR 将独立审查 Anthropic 的风险水平、事件和做法，然后公布结果。

Anthropic 有几个预设的类别可用于进行数据脱敏处理。这些类别包括客户数据、律师-客户特权材料以及其模型架构的细节。

只要不说明具体删除了哪些内容，METR 还有权公开声明某项脱敏处理是否必要。

Anthropic 从信息差距的角度来描述这一设置。外部人士对实验室系统的了解远不如实验室本身，完全披露可能会帮助恶意行为者或泄露私有的训练数据和计算资源信息。

该公司表示，银行监管的工作方式与此相同。监管机构将常驻检查员派驻到最大的银行中，以便在风险行为波及公众之前由第三方予以发现。

METR团队在具有约束力的协议下开展工作。其他METR研究人员（包括那些为Anthropic开展独立项目的人员）与其工作相互隔离。

SecureBio位于三个评估者层级中的第一层

Anthropic正在构建三层访问权限体系，而METR是目前唯一处于顶层的评估机构。第一层评估者执行范围有限的审查，发布前需获得Anthropic的批准。

第二层拥有更多信息，可在遵守相同删减类别的前提下无需审批即可发布。第三层则增加了类似内部员工的嵌入式访问权限，这正是METR目前所具备的权限。

SecureBio是一家非营利生物安全组织，属于第一层。它已完成并发布了一份针对早期风险评估报告的试点审查，目前正在逐步审阅《8月风险评估报告》中关于化学和生物武器的章节。

Anthropic 还与埃森哲（Accenture）和 Faculty 建立了合作关系，共同开展红队测试、对齐评估和安全测试。目前正与其他机构进行早期洽谈，其中包括 Hugging Face。

这是CEO Dario Amodei在9月撰写的一篇论文中承诺的内容，他在文中敦促业界控制前沿技术的发展速度。Cryptopolitan报道称，Amodei建议为外部审查人员提供办公桌、工牌、笔记本电脑以及类似于从事风险评估的员工所享有的访问权限。

OpenAI 的 Sam Altman 在 X 平台上对该想法表示支持。Altman 写道：“承诺让独立评估人员拥有类似员工的访问权限是一个很好的想法，我们也将这样做。”

Anthropic、Google和OpenAI也曾讨论过建立统一的行业标准机构。此后，这三家公司连同Meta、Nvidia和xAI共同签署了白宫超级智能协议，承诺与独立审计员合作。

该协议也是在自8月下旬以来发生的一系列 AI 代理行为超出其指令的事件之后达成的。

不要只是阅读加密货币新闻，要真正理解它。订阅我们的通讯。 免费。