Anthropic允許METR未經批准發佈安全評估結果

Anthropic不能再阻止METR發佈的關於其自身的安全發現。

該公司週四表示，已向該非營利組織的六名嵌入式研究人員授予了幾乎與其員工相同的訪問權限。

六名嵌入式研究人員獲得公司硬件和內部工具

METR 關注前沿 AI 模型。其團隊目前擁有與 Anthropic 自身風險評估團隊相同的硬件、工作空間和內部工具。

Anthropic 員工被要求向評估者提供與向其他從事對齊風險工作的員工相同的信息量。METR 將獨立審查 Anthropic 的風險水平、事件和做法，然後公佈結果。

Anthropic 有幾個預設的類別可用於進行數據脫敏處理。這些類別包括客戶數據、律師-客戶特權材料以及其模型架構的細節。

只要不說明具體刪除了哪些內容，METR 還有權公開聲明某項脫敏處理是否必要。

Anthropic 從信息差距的角度來描述這一設置。外部人士對實驗室系統的瞭解遠不如實驗室本身，完全披露可能會幫助惡意行爲者或泄露私有的訓練數據和計算資源信息。

該公司表示，銀行監管的工作方式與此相同。監管機構將常駐檢查員派駐到最大的銀行中，以便在風險行爲波及公衆之前由第三方予以發現。

METR團隊在具有約束力的協議下開展工作。其他METR研究人員（包括那些爲Anthropic開展獨立項目的人員）與其工作相互隔離。

SecureBio位於三個評估者層級中的第一層

Anthropic正在構建三層訪問權限體系，而METR是目前唯一處於頂層的評估機構。第一層評估者執行範圍有限的審查，發佈前需獲得Anthropic的批准。

第二層擁有更多信息，可在遵守相同刪減類別的前提下無需審批即可發佈。第三層則增加了類似內部員工的嵌入式訪問權限，這正是METR目前所具備的權限。

SecureBio是一家非營利生物安全組織，屬於第一層。它已完成併發布了一份針對早期風險評估報告的試點審查，目前正在逐步審閱《8月風險評估報告》中關於化學和生物武器的章節。

Anthropic 還與埃森哲（Accenture）和 Faculty 建立了合作關係，共同開展紅隊測試、對齊評估和安全測試。目前正與其他機構進行早期洽談，其中包括 Hugging Face。

這是CEO Dario Amodei在9月撰寫的一篇論文中承諾的內容，他在文中敦促業界控制前沿技術的發展速度。Cryptopolitan報道稱，Amodei建議爲外部審查人員提供辦公桌、工牌、筆記本電腦以及類似於從事風險評估的員工所享有的訪問權限。

OpenAI 的 Sam Altman 在 X 平臺上對該想法表示支持。Altman 寫道：“承諾讓獨立評估人員擁有類似員工的訪問權限是一個很好的想法，我們也將這樣做。”

Anthropic、Google和OpenAI也曾討論過建立統一的行業標準機構。此後，這三家公司連同Meta、Nvidia和xAI共同簽署了白宮超級智能協議，承諾與獨立審計員合作。

該協議也是在自8月下旬以來發生的一系列 AI 代理行爲超出其指令的事件之後達成的。

不要只是閱讀加密貨幣新聞，要真正理解它。訂閱我們的通訊。 免費。