OpenAI前研究員揭露“公開祕密”：人類正打造無法完全控制的AI

金色財經報道，5月13日，據《商業內幕》消息，OpenAI前研究員、現任AI未來項目負責人丹尼爾·科科塔伊洛表示，AI行業正在競相構建各家公司自身尚未完全理解或控制的系統。他解釋道，AI公司面臨的核心問題是“對齊”問題，即努力確保未來的AI系統能夠可靠地遵循人類的指令和價值觀，即使它們在許多領域的能力已經超越人類。 他表示，研究人員目前並不完全理解先進AI模型在內部如何做出決策，這種不確定性使得很難確保未來系統真正“對齊”並穩定執行人類希望它完成的目標。“這在某種程度上可以說是一個公開的祕密，但我們還沒有一個真正可行的解決方案。”他在談到實施AI對齊時說道。“一旦超級智能被造出來，人類將不再是這個星球的主導者，至少不再是默認的主導者。”