OpenAI 的 Altman 表示，隨着生物武器濫用報告的增加，人工智能的發展速度可能會放緩。

OpenAI 的員工本週被告知，該人工智能實驗室將考慮放緩其在最前沿人工智能領域的研究步伐。Sam Altman 也向包括 Anthropic 在內的其他人工智能競爭對手提出了同樣的建議。Anthropic 在一份報告中也承認了人工智能開發存在的風險，該報告披露，與國家機構有關聯的科學家曾試圖利用其 Claude 模型進行生物武器研究。. 

OpenAI表示，出於安全考慮，他們已經暫停了一些內部訓練運行，並簡化了部分模型開發流程。.

兩家公司不斷放出消息，這些披露信息的接連出現，加劇了關於該行業在公開募股之前是否進展過快的爭論。

奧特曼爲何想要減緩人工智能的發展速度？

OpenAI 首席執行官 Sam Altman 在一次公司全體會議上告知與會者，該人工智能實驗室以及其他同意的實驗室可以放慢前沿模型的發佈速度。.

據彭博社援引消息人士的話稱，由於此類安排具有自願性質，奧特曼承認並非所有公司都會接受該計劃。.

這種懷疑並非沒有dent。三年前，也就是2023年3月，埃隆·馬斯克、史蒂夫·沃茲尼亞克和其他1000多人簽署了一封公開信，要求暫停高級人工智能研究六個月。.

正如當時媒體報道的那樣，各實驗室實際上並沒有遵守他們共同同意的暫停令。

OpenAI首席科學家Jakub Pachocki在9月6日的一篇博文中也提出了人工智能風險的擔憂，他呼籲人工智能公司協調“根據需要放慢未來的發展速度”。Pachocki表示希望，自願放慢發展速度“能夠成爲常態，直到建立起共同的安全標準”。

7月，奧特曼表示他曾向白宮官員反映需要限制人工智能的發展。此前，奧特曼還與人性化組織首席執行官達里奧·阿莫迪共同簽署了一份 簡短聲明， 宣稱人工智能構成社會層面的滅絕風險。

人工智能模型能否用於製造生物武器？

人工智能模型已經發展到可能用於生物武器研究的階段。就在本週，OpenAI 宣稱其模型已經解決了納維-斯托克斯方程，儘管這一結論存在爭議。.

9 月 10 日發佈的154 頁威脅情報報告爲這場辯論提供了新的素材。該報告詳細描述了研究人員試圖利用克勞德的能力來支持其生物武器研究的五個案例。

人類學研究所表示，來自“不受支持地區”的這些嘗試試圖繞過地域限制並掩蓋其工作目的。該研究所稱已關閉相關賬戶，但未指明任何國家或機構。.

人工智能的風險是否已經超過了其帶來的益處？

這些報道發佈之際，實驗室內部也爆發了一系列公開的恐慌。9月8日，研究員雅各布·考克森辭職，並 指責OpenAI和Anthropic公司 “拿我們的生命做賭注”，稱同事們認爲這項技術“可能在本十年末毀滅我們所有人”，並警告說人類將在2030年滅絕。

他的帖子獲得了超過1.5億次的瀏覽量。兩天後，9月10日，Anthropic和谷歌旗下DeepMind的前員工也表達了類似的擔憂，並呼籲提高透明度。.

7 月下旬的一份請願書，旨在建立一種減緩開發速度的機制，該請願書獲得了來自各大人工智能公司 1000 多名員工的簽名。.

OpenAI目前正敦促國會制定強制性的、基於能力的安全性規則，涵蓋測試、dent 評估、網絡安全和dent 報告。“人工智能加速發展的前景需要的不僅僅是自願承諾，”首席全球事務官克里斯·萊恩寫道。.

加州率先行動：州長加文·紐森於週三簽署了 SB 813 和 AB 1405 法案，以及一項旨在防範人工智能生物威脅的配套法案 AB 1864。.

在華盛頓，參議員伯尼·桑德斯提出了一項法案，旨在暫停高級人工智能並禁止人工智能超級智能。 他告訴英國廣播公司 ，無視科學家的警告會使人變成“白癡”。

唐納德·特朗普dent 反駁說，他週四表示，他擔心“如果我們不能贏得人工智能，我們將處於非常糟糕的境地”。

如果你正在閱讀這篇文章，你已經領先一步了。 訂閱我們的新聞簡報，繼續保持領先優勢。