英美议员提出“禁止开发超越人类智能的AI系统”议案

金色财经报道，9月9日，据TIME报道，美国参议员Bernie Sanders计划提出《Ban Artificial Superintelligence Act》，拟禁止开发超越人类智能的AI系统，并暂缓其他高级AI研究直至安全规则确立；英国议员Alex Sobel亦在下议院提出首个在G7议会中试图禁止“superintelligent AI”的议案，将其定义为可能削弱国家权力的系统。两案要求美英政府推动全球条约，在全球范围禁止开发超智能AI，并赋予政府监控和限制潜在“前驱系统”的新权力。ControlAI参与起草法案，称此举为未来AI监管的起点。前OpenAI员工Daniel Kokotajlo与学者Stuart Russell警告，若缺乏监管，AI可能导致严重基础设施破坏甚至人类失控。