OpenAI將允許外部機構在更早期階段評估人工智能模型

金色財經報道，9月23日，OpenAI計劃在開發週期的早期階段，讓第三方機構對其人工智能模型的安全風險進行審查，這是其持續應對公衆對技術潛在危害日益增長擔憂的一部分。公司週二在一篇博客文章中宣佈，其將允許外部組織在訓練、評估和推出新AI模型的過程中，對這些模型進行技術安全評估。OpenAI還明確了確保此類審查有效運行的重點，包括確保“強有力的獨立性機制、科學嚴謹性、健全的安全措施以及明確的責任劃分”。負責該公司與外部專家合作開展安全審查工作的Lama Ahmad表示，此前，OpenAI通常會在模型發佈前邀請此類團體進行安全評估，並評估其能力。“隨着風險日益增加，我們不僅要關注部署問題，還希望同時重視訓練和評估等高風險環節。”