英美議員提出“禁止開發超越人類智能的AI系統”議案

金色財經報道，9月9日，據TIME報道，美國參議員Bernie Sanders計劃提出《Ban Artificial Superintelligence Act》，擬禁止開發超越人類智能的AI系統，並暫緩其他高級AI研究直至安全規則確立；英國議員Alex Sobel亦在下議院提出首個在G7議會中試圖禁止“superintelligent AI”的議案，將其定義爲可能削弱國家權力的系統。兩案要求美英政府推動全球條約，在全球範圍禁止開發超智能AI，並賦予政府監控和限制潛在“前驅系統”的新權力。ControlAI參與起草法案，稱此舉爲未來AI監管的起點。前OpenAI員工Daniel Kokotajlo與學者Stuart Russell警告，若缺乏監管，AI可能導致嚴重基礎設施破壞甚至人類失控。