傳Anthropic因限制AI軍事用途與美國防部產生分歧

金吾財訊 | 據三位知情人士透露，美國國防部與人工智能開發商Anthropic正就一項安全保障措施產生分歧，該措施旨在防止政府將Anthropic技術用於自主武器瞄準及美國國內監控。

據報道稱，圍繞一份價值高達2億美元的合同，美國國防部與Anthropic歷經長時間談判後目前已陷入僵局。該公司對其AI工具使用方式的立場，令其與特朗普政府的分歧進一步加劇，而這些分歧此前從未見諸報道。Anthropic表示，其人工智能“被美國政府廣泛用於國家安全任務，並且該行正在與戰爭部就如何繼續開展這項工作進行富有成效的討論。”特朗普政府已將國防部更名爲“戰爭部”，但該部門的一位發言人未立即回應置評請求。

一些消息人士表示，在與政府官員的討論中，Anthropic的代表表達了擔憂，稱其工具可能會在缺乏足夠人工監督的情況下被用於監視美國人或協助武器瞄準。不過，美國國防部官員未來向前推進時可能仍需Anthropic的合作。其模型經過訓練以避免採取可能導致危害的步驟，而且只有Anthropic的員工才能爲其人工智能進行重新調整以適配美國國防部的需求，一些消息人士稱。