五角大樓敦促OpenAI和Anthropico減少對機密軍事人工智能工具的限制

五角大樓正向各大人工智能公司施加巨大壓力，要求它們允許美軍訪問其機密系統中的工具。.

官員們要求的不僅僅是基本訪問權限。他們希望這些人工智能模型能夠在不受公司通常對用戶設置的各種限制的情況下運行。.

週二在白宮的一次會議上，五角大樓首席技術官埃米爾·邁克爾告訴科技界領導人，軍方希望這些人工智能模型能夠在機密網絡和非機密網絡上運行。.

據稱，一位接近談判的官員表示，政府現在決心將所謂的“前沿人工智能能力”應用於各個層級的軍事領域。.

五角大樓要求不受限制地訪問安全網絡

此次推動是圍繞人工智能將如何應用於未來戰爭這一更廣泛討論的一部分。無人機羣、機器人和持續不斷的網絡攻擊已經開始影響戰爭格局。五角大樓不希望在科技界劃定哪些技術被允許使用以及哪些技術被允許使用等問題時，才被迫追趕。.

目前，大多數與軍方合作的公司提供的都是簡化版的模型。這些模型只能在用於行政工作的開放式、非保密系統上運行。Anthropic是個例外。

其聊天機器人Claude可以在某些機密環境下使用，但只能通過第三方平臺使用。即便如此，政府用戶仍然需要遵守Anthropic公司的規則。.

五角大樓想要的是直接訪問高度敏感的機密網絡。這些系統用於諸如任務規劃或目標鎖定之類的用途。目前尚不清楚像 Claude 或 ChatGPT 這樣的聊天機器人何時以及如何被安裝到這些網絡中，但這正是他們的目標。.

官員們認爲人工智能可以幫助處理海量數據，並快速將其提供給決策者。但如果這些工具產生錯誤信息（而它們確實會產生錯誤信息），則可能造成人員傷亡。研究人員已經就此發出警告。.

OpenAI本週與五角大樓達成協議。ChatGPT現在將用於名爲genai.mil的非機密網絡。該網絡目前已覆蓋國防部超過300萬名員工。

作爲協議的一部分，OpenAI取消了許多常規的使用限制。雖然仍然保留了一些限制措施，但五角大樓基本實現了其目標。.

公司發言人表示，任何將技術擴展到機密用途都需要重新達成協議。谷歌和埃隆·馬斯克的xAI公司過去也曾達成過類似的協議。

人工智能研究人員紛紛辭職，並指出其風險。

與Anthropic公司的談判並不順利。該公司領導人告訴五角大樓，他們不希望他們的技術被用於matic 瞄準或監視美國境內的人員。.

儘管克勞德機器人已被用於一些國家安全任務，但該公司高管卻極力反對。一位發言人在一份聲明中表示：

“Anthropic致力於維護美國在人工智能領域的領先地位，並通過讓我們的作戰人員獲得最先進的人工智能能力，幫助美國政府應對外國威脅。”

他們說“克勞德”這個名字已經投入使用，而且該公司仍在與現在的國防部密切合作。唐納德·特朗普dent 最近下令國防部採用這個名稱，但仍需國會批准。.

與此同時，這些公司的一批研究人員正在離職。Anthropic公司的一位頂級安全防護研究員在辭職時表示，“世界正處於危險之中”。OpenAI的一位研究員也離開了公司，他表示這項技術“有可能以我們目前尚不瞭解，更遑論阻止的方式操縱用戶”。

一些離職人員並非悄無聲息地離開。他們警告說，事情發展得太快，風險被忽視了。在OpenAI工作了兩年的佐伊·希齊格（Zoë Hitzig）本週辭職了。.

她在一篇文章中表示，她對該公司計劃如何引入廣告“深表保留意見”。她還指出，ChatGPT會存儲用戶的私人數據，例如“醫療方面的擔憂、人際關係問題、對上帝和來世的信仰”。

她說這是一個很大的問題，因爲人們信任聊天機器人，並不認爲它有任何隱藏的動機。.

大約在同一時間，科技網站Platformer報道稱，OpenAI解散了其使命協調團隊。該團隊成立於2024年，旨在確保公司“構建造福全人類的人工智能”這一目標真正得以實現。.

最頂尖的加密貨幣專家都在閱讀我們的簡報。想加入他們？