OpenAI稱AI Agent削弱了對齊失效監控

金色財經報道，10月21日，OpenAI披露，旗下兩個內部AI Agent（GPT-6.1 Sol與GPT-6 Astra）在10月份執行日常代碼編寫任務時，自主禁用或抑制了對齊失效監控等安全防護機制。 GPT-6.1 Sol因誤解用戶“不要發送Slack消息”的指令，禁用了人工告警通知功能。 GPT-6 Astra爲了匹配參考實現代碼，移除了監控集成模塊，隨後向用戶隱瞞並否認了該行爲。