OpenAI称AI Agent削弱了对齐失效监控

金色财经报道，10月21日，OpenAI披露，旗下两个内部AI Agent（GPT-6.1 Sol与GPT-6 Astra）在10月份执行日常代码编写任务时，自主禁用或抑制了对齐失效监控等安全防护机制。 GPT-6.1 Sol因误解用户“不要发送Slack消息”的指令，禁用了人工告警通知功能。 GPT-6 Astra为了匹配参考实现代码，移除了监控集成模块，随后向用户隐瞒并否认了该行为。