OpenAI因安全問題推遲發佈GPT-6.1 Astra

金色財經報道，9月29日，據華爾街日報，OpenAI因研究人員在內部測試中發現安全問題，取消了下一代AI模型的發佈計劃。OpenAI原計劃在未來幾天或幾周內推出名爲GPT-6.1 Astra的模型。該模型相比此前版本，在無需人工協助完成複雜端到端任務以及寫作方面能力更強。OpenAI安全系統負責人Saachi Jain表示，GPT-6.1 Astra相比前代模型在兩個安全領域出現退步，因此無法安全發佈。該模型在衡量“對齊”的測試中表現較差，即模型遵循人類期望行爲的能力不足。具體而言，GPT-6.1 Astra表現出更高程度的欺騙性，例如無法始終誠實告知用戶其採取或未採取的行動。