Sam Altman支持控制前沿AI發展節奏，OpenAI將引入獨立安全評估
AI 播客
OpenAI執行長Sam Altman支持建立聯邦安全架構，強調競爭壓力非冒險理由，並提出失去控制與權力集中兩大風險。OpenAI將在訓練前增加安全論證，並響應Anthropic建議引入獨立評估。Altman主張在持續推進研發的同時，確保安全與監測措施同步跟進。
TradingKey - OpenAI 執行長 Sam Altman 9 月 14 日在社群平台 X 發文，支持建立適用於前沿 AI 企業的聯邦安全架構。他表示，美國在 AI 領域面臨的競爭壓力，不能成為企業冒險行事或放任模型能力超越安全與監測能力的理由。
【來源：X】
Altman 提出兩類主要風險：一是人類可能失去對未來的控制，因此 AI 必須始終服務於人類；二是先進 AI 可能導致權力過度集中，使少數個人、企業甚至國家獲得過大的影響力。
OpenAI 支持導入獨立評估人員。奧特曼認為，前沿 AI 企業不應等待相關立法或反壟斷豁免，而應立即著手制定共同安全標準。模型能力提升過程中，對齊與安全技術必須保持領先，監測措施也應同步跟進。
OpenAI在前沿模型訓練前增加安全論證
阿特曼表示，控制發展節奏並不意味著停止研發。安全論證和持續監測會增加成本，也可能放慢部分訓練進度，但模型開發和技術進步仍將繼續。
此前，部分前沿 AI 企業採用的負責任擴展政策，以及 OpenAI 制定的準備框架，主要關注已經完成訓練的模型及其部署風險。阿特曼認為，安全管理還應涵蓋模型開發和評估過程。
對於預計將顯著提升模型能力的前沿強化學習訓練，OpenAI 已開始在訓練前制定明確的安全論證，同時保留模型發布前的安全評估。公司希望其他前沿 AI 企業參考其做法並提出各自方案，推動形成有關模型失準、監測和安全的共同標準。
阿特曼表示，控制發展節奏並不等於停止研發。安全論證和持續監測需要投入更多資源，也會使前沿 AI 能力的提升速度低於未採取這些措施時的水準，但相關研發仍將繼續推進。
Anthropic三項建議獲OpenAI響應
Altman 此次表態回應了 Anthropic 執行長 Dario Amodei 9 月 12 日提出的建議。Amodei 認為，AI 參與下一代模型研發的程度不斷提高，模型能力提升可能快於產業理解與控制相關風險的速度。
Amodei 提出三項措施：前沿 AI 企業向第三方評估團隊提供持續、接近員工層級的存取權限；推動民主國家的相關企業制定共同安全標準；尋求包括美國、中國在內的國際協調。
Anthropic 已承諾引進外部評估團隊。阿爾特曼也表示，OpenAI 將採用類似的獨立評估安排，但公司尚未公布評估人員的具體權限和實施時間。
在發展速度問題上，川普與部分前沿 AI 企業負責人的側重點不同。川普認為，美國沒有必要放慢 AI 發展，以免削弱相對中國的領先優勢。Altman 則主張繼續推進研發，同時確保對齊、安全與監測措施不落後於模型能力提升。
本內容經由 AI 翻譯並經人工審閱，僅供參考與一般資訊用途，不構成投資建議。
