AI研究人员呼吁紧急监管自我改进的AI系统

金色财经报道，OpenAI、Anthropic、Meta和微软的研究主管正呼吁决策者调查各自公司在多大程度上实现了AI研究自动化。 在一篇周一发表的论文中，包括OpenAI首席科学家雅各布·帕乔基、Anthropic 联席创始人杰克·克拉克、微软首席科学官埃里克·霍维茨以及Meta的AI研究副总裁宋晓冬在内的研究人员写道，将AI研究自动化可能会引发一场 “智能爆炸”。这些作者表示，这种发展可能会将多年的进步压缩到几个月甚至更短的时间内，并超过人类的理解能力。该论文的作者们以个人名义撰文称，决策者应紧急要求提高透明度，以了解这些公司在多大程度上已经实现了自身模型开发的自动化。