OpenAI将允许外部机构在更早期阶段评估人工智能模型

金色财经报道，9月23日，OpenAI计划在开发周期的早期阶段，让第三方机构对其人工智能模型的安全风险进行审查，这是其持续应对公众对技术潜在危害日益增长担忧的一部分。公司周二在一篇博客文章中宣布，其将允许外部组织在训练、评估和推出新AI模型的过程中，对这些模型进行技术安全评估。OpenAI还明确了确保此类审查有效运行的重点，包括确保“强有力的独立性机制、科学严谨性、健全的安全措施以及明确的责任划分”。负责该公司与外部专家合作开展安全审查工作的Lama Ahmad表示，此前，OpenAI通常会在模型发布前邀请此类团体进行安全评估，并评估其能力。“随着风险日益增加，我们不仅要关注部署问题，还希望同时重视训练和评估等高风险环节。”