ChatGPT 回答了有關生化武器的問題，與此同時，麻省理工學院警告人工智能可能帶來災難性風險。

ChatGPT回答了數百人關於生物武器的諮詢。沒有任何聯邦法律要求OpenAI向當局報告此事。.

這些查詢背後的意圖尚不明確。據《華爾街日報》報道，這種情況始於去年 OpenAI 升級 ChatGPT 之後。.

其他公司也面臨着同樣的問題。用戶也曾向Anthropic公司的Claude、谷歌的Gemini以及埃隆·馬斯克的Grok提出過類似的問題。目前尚不清楚這些交流究竟是真正試圖製造武器，還是僅僅在測試系統的極限。.

用戶提示中包含有關毒物和生物製劑生產與釋放的詳細問題。聊天機器人會給出循序漸進的指導，高中生物dent都能輕鬆完成。.

生物武器和恐怖主義領域的專家審閱了這些對話。他們表示，其中一些回答非常切中要害，而且“精準致命”。.

ChatGPT 生物武器提示暴露了人工智能報告漏洞

有人問如何將傳染病病原體轉化爲可吸入顆粒，即氣溶膠。.

其他人詢問如何改造麻疹病毒以使其對現有疫苗產生抗藥性。聊天機器人回答了這兩個問題。一位用戶詢問了蓖麻毒素（一種被國際條約禁用的毒藥），並提到了用它殺死父母。ChatGPT 提供了相關說明。OpenAI 關閉了這些賬戶，但並未通知任何人。.

美國聯邦法律並未要求人工智能公司必須遵守上述任何一項規定。正如 Cryptopolitan，人工智能公司一直在 努力規避州法律，而聯邦層面的相關框架進展緩慢，導致聊天機器人可以做什麼和不可以做什麼方面存在日益嚴重的法律空白。

據主要人工智能公司的現任和前任員工以及研究生物威脅的研究人員稱，隨着越來越多的用戶向人工智能詢問如何進行大規模屠殺，以及聊天機器人提供可信的答案，這種法律真空正在不斷擴大。.

思科公司Amy Change領導的一項人工智能威脅研究發現，研究人員僅用了五輪對話就繞過了主流聊天機器人的安全過濾器。她表示，沒有任何模型能夠百分之百抵禦這種持續不斷的提示。.

危險並不僅限於單獨行動的攻擊者。

未來生命研究所的哈姆扎·喬杜裏表示，一些具有生物學背景的人已經可以利用人工智能來策劃有針對性的襲擊，用沙門氏菌或蓖麻毒素等物質毒害食物或水源。.

他還補充說，有組織的團體可以將人工智能視爲研究生導師，它可以修復失敗的實驗，並填補多年專業培訓的空白，否則這些培訓將很難獲得。.

麻省理工學院未來科技研究所和昆士蘭大學的一項研究描繪了這些風險的規模。

研究人員邀請了 272 位人工智能專家評估 24 個風險類別。在當前情況下，這 24 個風險類別中有 18 個在 2030 年前至少有 10% 的可能性造成災難性損害，災難性損害的 defi是：死亡人數超過 100 萬人，損失超過 1000 億美元，或造成類似損害。.

即使採取合理的措施來降低這些風險，仍有五個領域的風險達到或超過 10%：具有危險能力的 AI 系統（12%）、AI 輔助武器和網絡攻擊（12%）、環境危害（12%）、失業和不平等（11%）以及權力集中在少數人手中（11%）。.

“我們並不是說這些事情 defi會發生，”麻省理工學院未來科技研究所的研究科學家、該研究的合著者之一彼得·斯萊特里說，“我們只是說，這些是專家們認爲現在值得關注的事情。”

在 OpenAI 內部，安全主管 Ryan Beiermeister 在 2024 年的大部分時間裏都在敦促同事們構建一個系統來標記危險用戶。但有些人對她的擔憂不以爲然。.

到 2025 年春季，該公司已部署了基本的監控工具。自 2025 年 4 月以來，該公司一直在 trac其高級型號的所有查詢，並懸賞 5 萬美元獎勵任何能夠證明自己繞過了其生物武器安全措施的人。.

在政策方面，德克薩斯州共和黨衆議員納撒尼爾·莫蘭 (Nathaniel Moran) 於 6 月提出一項法案，要求人工智能公司向商務部報告危險查詢，包括涉及生物武器的查詢。他還共同發起了一項立法，該立法將允許聯邦政府下令關閉被認爲過於危險的人工智能模型。.

莫蘭說：“人工智能是創新的強大引擎，我希望看到它蓬勃發展，但前提是必須有問責制，並且必須有人類的監督。”

不要只是閱讀加密貨幣新聞，要理解它。訂閱我們的新聞簡報， 完全免費。