AI研究人員呼籲緊急監管自我改進的AI系統

金色財經報道，OpenAI、Anthropic、Meta和微軟的研究主管正呼籲決策者調查各自公司在多大程度上實現了AI研究自動化。 在一篇週一發表的論文中，包括OpenAI首席科學家雅各布·帕喬基、Anthropic 聯席創始人傑克·克拉克、微軟首席科學官埃裏克·霍維茨以及Meta的AI研究副總裁宋曉冬在內的研究人員寫道，將AI研究自動化可能會引發一場 “智能爆炸”。這些作者表示，這種發展可能會將多年的進步壓縮到幾個月甚至更短的時間內，並超過人類的理解能力。該論文的作者們以個人名義撰文稱，決策者應緊急要求提高透明度，以瞭解這些公司在多大程度上已經實現了自身模型開發的自動化。