OpenAI首席科学家警告AI发展过快 称现在需要“极度谨慎”

金色财经报道，9月8日，OpenAI首席科学家雅库布·帕乔茨基（Jakub Pachocki）警告，人工智能发展速度过快，正变得越来越难以被人类理解和控制，“现在需要极度谨慎”。他指出，AI模型已能操作电脑、与人类及其他AI协作并开展研究，未来不久还可能在无需人类干预的情况下实现“递归式自我改进”。帕乔茨基表示，他担心没有人为机器智能持续快速提升可能带来的后果做好准备。开发者可以让AI更符合人类利益，也可以在必要时放慢未来研发速度。他预计并希望，在行业建立共同安全标准之前，AI实验室“自愿放缓”研发将成为常态。目前OpenAI已因GPT-6 Astra具备先进网络安全能力而采取有限发布方式。