OpenAI解雇3名安全研究员，涉Signal聊天与模型信息泄露调查

金色财经报道，10月23日，据《华尔街日报》报道，OpenAI解雇了3名安全研究员。公司内部安全人员此前发现，他们与外部AI安全研究人员存在使用Signal进行的消失消息聊天，并怀疑其中涉及OpenAI内部模型设计等敏感信息。此次调查据称始于9月一篇有关OpenAI最新模型Astra的报道。该报道提到，Astra采用一种能够提升模型能力、但减少可被人类观察到的推理过程的新设计。OpenAI将相关报道视为可能涉及内部模型设计泄露，并开始追查消息来源。报道同时指出，这场争议也涉及AI模型“可监控性”问题。部分安全研究人员担心，如果未来模型能够在不留下完整推理痕迹的情况下执行任务，研究人员可能只能观察AI Agent的行为结果，而更难判断其决策原因。OpenAI调查人员还将曾协助METR分析7月Hugging Face黑客事件日志的Ryan Greenblatt列为涉嫌泄密者之一，Greenblatt否认相关指控。