Sam Altman支持控制前沿AI发展节奏，OpenAI将引入独立安全评估
AI播客
OpenAI CEO Sam Altman支持建立前沿AI联邦安全框架，防范失控与权力过度集中风险。OpenAI将在训练前引入安全论证并采用独立评估，平衡技术研发与安全监测，并呼吁行业制定共同标准，积极回应Anthropic的建议，主张在确保安全前提下继续推进研发。
TradingKey - OpenAI首席执行官Sam Altman 9月14日在社交平台X发文，支持建立适用于前沿AI企业的联邦安全框架。他表示，美国在AI领域面临的竞争压力，不能成为企业冒险行事或放任模型能力超过安全与监测能力的理由。
【来源：X】
Altman提出两类主要风险：一是人类可能失去对未来的控制，因此AI必须始终服务于人类；二是先进AI可能导致权力过度集中，使少数个人、企业甚至国家获得过大的影响力。
OpenAI支持引入独立评估人员。奥尔特曼认为，前沿AI企业不应等待相关立法或反垄断豁免，而应立即着手制定共同安全标准。模型能力提升过程中，对齐和安全技术必须保持领先，监测措施也应同步跟进。
OpenAI在前沿模型训练前增加安全论证
Altman表示，控制发展节奏并不意味着停止研发。安全论证和持续监测会增加成本，也可能放慢部分训练进度，但模型开发和技术进步仍将继续。
此前，部分前沿AI企业采用的负责任扩展政策，以及OpenAI制定的准备框架，主要关注已经完成训练的模型及其部署风险。Altman认为，安全管理还应覆盖模型开发和评估过程。
对于预计将显著提升模型能力的前沿强化学习训练，OpenAI已开始在训练前制定明确的安全论证，同时保留模型发布前的安全评估。公司希望其他前沿AI企业参考其做法并提出各自方案，推动形成有关模型失准、监测和安全的共同标准。
Altman表示，控制发展节奏并不等于停止研发。安全论证和持续监测需要投入更多资源，也会使前沿AI能力的提升速度低于未采取这些措施时的水平，但相关研发仍将继续推进。
Anthropic三项建议获OpenAI响应
Altman此次表态回应了Anthropic首席执行官 Dario Amodei 9月12日提出的建议。Amodei认为，AI参与下一代模型研发的程度不断提高，模型能力提升可能快于行业理解和控制相关风险的速度。
Amodei提出三项措施：前沿AI企业向第三方评估团队提供持续、接近员工级别的访问权限；推动民主国家的相关企业制定共同安全标准；寻求包括美国、中国在内的国际协调。
Anthropic已承诺引入外部评估团队。奥尔特曼也表示，OpenAI将采用类似的独立评估安排，但公司尚未公布评估人员的具体权限和实施时间。
在发展速度问题上，特朗普与部分前沿AI企业负责人的侧重点不同。特朗普认为，美国没有必要放慢AI发展，以免削弱相对中国的领先优势。Altman则主张继续推进研发，同时确保对齐、安全和监测措施不落后于模型能力提升。
