Anthropic公司放棄了對《克勞德·費布爾5》隱藏限制的規定。

人智公司就此道歉並撤回了原本計劃 祕密限制人工智能開發者使用Claude Fable 5性能的政策。科學家們警告說，這項限制性政策可能會使人工智能的高級功能僅供少數公司使用，從而阻礙全球科學的發展。

Anthropic公司6月10日做出的決定，其影響遠不止於一家公司的行爲本身。鑑於該公司近9650億美元的估值以及即將進行的IPO，這一dent 凸顯了人工智能領域一個至關重要的矛盾：開發最佳模型的公司如何在滿足自身競爭需求的同時，維繫推動全球創新的開放研究文化。.

Anthropic公司對《克勞德·費布爾5》的隱瞞限制引發業界強烈抗議

發佈了 Claude Fable 5 6月9日，Anthropic公司 ，並公開了 四類保護措施，包括網絡安全、生物學、化學和人工智能研究。其中三類措施的運作方式類似：一旦檢測到敏感查詢，系統要麼會完全拒絕該查詢，要麼會將用戶引導至其之前的頂級產品Claude Opus 4.8，併發出警告。

然而，第四類問題與其他問題有所不同。當用戶詢問有關新興人工智能的問題時，Fable 5 會在不告知用戶的情況下降低輸出質量。 據《財富》雜誌報道，該公司概述了旨在降低系統性能的干預措施，但並未透露具體細節。所有細節均可在 Anthropic 公司長達 319 頁的系統手冊 中找到。

據 Anthropic 公司稱，這項限制措施生效的概率約爲 0.03%。但令研究人員擔憂的遠不止這個百分比。

據報道，Anthropic公司解釋說：“我們做出了錯誤的權衡，對於未能找到合適的平衡點，我們深表歉意。”.

批評人士稱，克勞德·費布爾5的限制威脅到dent 的人工智能研究。

這種批評來自一些鮮少持相同觀點的人。開源支持者、從事人工智能安全研究的人員，甚至包括Anthropic公司的前員工，都在系統卡發佈後的幾個小時內提出了反駁。.

人工智能初創公司Prime Intellect的研究主管威爾·布朗表示，這項政策讓人感覺該公司“正在自掘墳墓”。他還補充說，越來越多的公司正在評估前沿系統的安全性和可靠性。這種隱蔽的性能下降可能會破壞他們的驗證過程。.

曾任艾倫人工智能研究所負責人、開放模型研究員內森·蘭伯特(Nathan Lambert)的tron聲明措辭更爲強硬。 在X網站上表示 這項政策“將Anthropic公司明確地描繪成反科學的，因此也是反進步和反安全的。”

AnswerDotAI 的聯合創始人傑裏米·霍華德將這個問題描述爲一場競爭性的權力爭奪。霍華德認爲，Anthropic 公司自己的研究人員仍然可以在內部使用不受限制的模型，這意味着人工智能前沿技術將不斷進步，而外部研究人員則會落後。他指出，“人工智能前沿技術不斷進步，權力失衡現象卻日益加劇。”

就連前 Anthropic 員工也發表了看法。曾共同領導該公司人工智能科學家計劃的 Behnam Neyshabur 發帖稱，限制這些能力“從根本上減緩了科學和技術進步，對人類而言是負面的”。

這會對 Anthropic 的 IPO 產生什麼影響？

此次事件dent 在Anthropic公司非常敏感的時期。該公司於6月1 祕密dent提交了IPO文件，以 9650億美元的隱含估值籌集了650億美元。在這種情況下，估值很大程度上取決於企業客戶和研究界的信任。

除了人工智能研究爭議之外，Fable 5 的發佈還面臨着其他方面的批評。該模型採用的強生物學過濾器使其無法回答有關細胞膜和線粒體的問題，而這些通常是高中課程的內容。 據 報道，儘管該模型能夠輕鬆討論 TNT 和密碼風險，但它卻無法解釋 mRNA 疫苗的作用機制以及花粉症的病因。

由於Anthropic新推出的Mythos級數據保留策略存在數據保留問題，微軟也限制了員工使用Fable 5。出於信任和安全考慮，提示和輸出的保留期限設置爲30天，而標記的內容則保留長達兩年。.

接下來是什麼？

Anthropic公司表示，修訂後的政策將使Fable 5的AI開發安全保障措施更加透明。如果系統檢測到用戶正在進行前沿AI研究，可以選擇拒絕其請求或切換到其他系統，並在兩種情況下都通知用戶。.

Anthropic公司承認存在權衡取捨。由於安全措施現在已公開可見，該公司別無選擇，只能更廣泛地應用它。這意味着更多無害的查詢將被攔截。該公司表示正在努力提高分類器的精度。此案揭示了一個更爲嚴重的問題：隨着人工智能模型能力的提升，訓練成本也會上升，限制競爭對手使用此類工具的誘惑也會隨之增加。Anthropic公司的迅速轉變究竟會開創dent ，還是僅僅推遲下一次隱蔽限制的嘗試，將取決於其他業內人士的反應。.

不要只是閱讀加密貨幣新聞，要理解它。訂閱我們的新聞簡報， 完全免費。