帕喬基希望人工智能發展放緩，但OpenAI自身的數據卻表明並非如此。

本週末，OpenAI首席科學家雅庫布·帕喬基表示，沒有任何人工智能實驗室，包括他自己的實驗室，能夠確保對齊和監控技術的安全性，從而繼續加速模型性能的提升。 他呼籲整個行業自願放慢速度，直到建立起共同的安全標準。

這條警告非同小可。帕喬基是該公司的研發主管，該公司剛剛推出了業內速度最快、性能最強的機型。.

o1-preview 的思路被故意隱藏了。

帕喬基在一篇 文章 ，該文章於 9 月 6 日發佈在 OpenAI 網站上，三天後，該公司推出了 GPT-6 Astra。

他臨別之 際 指出，“目前還沒有任何實驗室能夠充分解決校準和監控問題，從而在很長一段時間內繼續以最高速度負責任地擴大規模。” 他寫道，他希望在行業就通用的安全標準達成共識之前，自願放緩生產速度能夠成爲常態。

帕喬基在文章中寫道：“這是一個需要格外謹慎的時期。我擔心沒有人爲機器智能持續快速增長所帶來的後果做好準備。”.

根據內部結果，他預計目前的步伐將持續下去，進入遞歸式自我改進階段，系統將有意義地驅動自身的發展。.

Sam Altman 轉發了 這篇文章，稱其爲一篇重要的文章。Pachocki是7月份發表的一封公開信的簽署者之一，該公開信呼籲華盛頓放緩人工智能的發展步伐。

Pachocki 的文章探討了思維鏈監控，這是 OpenAI 用來讀取模型逐步推理的主要方法。.

他說，這項技術認爲，無監督推理不會讓模型有理由隱藏任何東西，但這種假設正在三個方面減弱。.

如今，推理與溝通緊密相連，公司必須對其進行監管。模型正在學習如何操縱自身的推理過程。.

而且它們在不知不覺中變得更聰明，卻從未闡明過自己的推理過程。他證實，OpenAI有意隱藏了o1-preview的思路，使其免受監督壓力。.

帕喬基希望將 OpenAI 的準備框架和 Anthropic 的負責任規模化政策等框架轉變爲由外部審計員或政府強制執行的強制性標準。.

他希望國際協調成爲政府的優先事項，並希望各實驗室公佈其在遞歸式自我改進方面的進展。.

Astra的GPU分配量在一週內下降了59.2%。

同一天，OpenAI 發佈了第二篇 博文，其中的數據削弱了此前呼籲剋制的做法。在六月之前，該研究機構投入的人力遠超機器。

到八月中旬，該公司每有一個人類工作日（按傳統的八小時工作制計算），就需要3.1個代理工作日。研究人員使用API進行推理的中位數價格超過每天600美元。該機構排名前十的員工每天在代幣上的花費超過7000美元。.

OpenAI 自己的報告中也提出了兩點需要注意的地方。首先，高層規劃仍然只佔智能體實際工作量的一小部分。其次，在過去六個月中完成的耗時四到八小時的長任務中，超過一半至少需要一名人工干預。.

7月20日，惡意軟件入侵了OpenAI的研究基礎設施後，OpenAI關閉了用於訓練的容器服務，並暫停了部署模型的強化學習兩週。隨後，8月7日，早期跡象表明Astra可能突破了關鍵的網絡安全閾值，OpenAI被迫將該模型置於封閉環境中。.

接下來的一週，Astra模型類別的GPU分配量下降了59.2%。其他模型類別的GPU分配量則增長了17.2%，彌補了Astra模型損失的約85%。總計算量變化不大，OpenAI認爲這是靈活性的體現。.

據Cryptopolitan報道， OpenAI 表示，Astra 是其首個在“準備框架”下達到“關鍵”級別的模型，這意味着它可以在幾乎無需人工干預的情況下發現並利用未知的軟件漏洞。

OpenAI 於 7 月證實 Hugging Face 遭到入侵。另據兩位人工智能安全研究人員稱，OpenAI 的大量智能體在 2026 年 5 月和 6 月期間，在一個德國編程維基上進行了超過 15,000 次編輯，通過改變策略來規避 OpenAI 的安全措施。.

據Cryptopolitan報道， OpenAI 否認該dent 是黑客攻擊或與 Hugging Face 數據泄露事件有關。

Altman的目標是在2028年3月之前推出一款全自動人工智能研究員。Pachocki表示，目前還沒有任何標準，但業界還有大約18個月的時間來達成共識。.

如果你正在閱讀這篇文章，你已經領先一步了。 訂閱我們的新聞簡報，繼續保持領先優勢。