美议员提出新法案拟禁止“自我递归进化”AI

金色财经报道，9月29日，美国加州民主党众议员罗·卡纳即将向国会提交一项全面人工智能监管法案，希望对前沿AI技术建立迄今最严格的联邦监管框架。该提案不仅要求实施严格责任制度，还计划禁止具备“递归自我改进”能力的人工智能系统投入使用，直到联邦政府建立完整安全保障体系为止。这项法案被命名为《人类控制人工智能法案》（Human Control Over AI Act）。法案出台背景正值美国科技界和政策界对于先进人工智能潜在风险的担忧持续升温。近年来，多位AI企业高管公开警告，未来某些人工智能系统可能超出人类控制能力，而国会至今尚未形成全面监管方案。