OpenAI提出"安全案例"框架：前沿RL訓練前須提交結構化安全論證

金色財經報道，9月28日，據OpenAI文章，其主張在繼續任何前沿強化學習（RL）訓練前，應要求提供結構化安全文檔，理想上達到"安全案例"水平，即關於風險的全面、結構化、基於證據的論證，該做法已在航空、核電等安全關鍵行業使用。OpenAI稱其爲努力追求的"北極星"，但承認因AI湧現複雜性難以達此嚴謹度。框架含三部分：技術保障（模型對齊、封閉隔離、監控）、10條運營準則（涵蓋異議、審批、問責、暫停、審計、升級、技術控制失效關閉、回滾等），以及嚴重失準事件的調查實踐。該框架正於內部實施，未來數週將繼續演進，並邀請社區反饋。