查理国王警告人工智能领导者，在为时已晚之前夺回控制权。

在苏格兰举行的一次峰会上，查理三世国王告诉世界最大人工智能公司的负责人，他们必须找到方法，使这项技术保持在人类的控制之下。. 

国王警告说，建造它的人们现在担心它可能会发展出“更黑暗的能力”，甚至会被用来杀人。. 

查理三世国王对人工智能有何看法？ 

查理三世国王 邓弗里斯庄园发表了讲话 。此次聚会由迪奇利基金会组织，吸引了约 30 位高管、官员和研究人员参加，其中包括英国人工智能部长卡尼什卡·纳拉扬、英伟达首席执行官黄仁勋、DeepMind 联合创始人德米斯·哈萨比斯、OpenAI 首席财务官萨拉·弗里尔和 Anthropic 全球事务主管蒂诺·奎利亚尔。

据彭博社报道，这份私人宾客名单中还包括英国军情六处处长布莱斯·梅特雷维利、作家尤瓦尔·诺亚·赫拉利和清华大学薛岚等人的名字。.

77岁的查尔斯只讲了大约20分钟就离开了房间，他希望接下来的会谈能够富有成效。 他说，那些珍视人类道德核心的人们“正焦急地寻求你们的保证，确保我们不会失去对自身命运和灵魂的掌控。”

查尔斯称这项技术的发展速度“既令人着迷又令人深感担忧”。他肯定并赞扬了这项技术在医学和生命科学领域的成就，然后直言不讳地问道：“难道我们真的需要在为时已晚之前采取足够的控制措施吗？”

国王在警告中提到了人工智能技术创造者的担忧。他还表示，这些系统有可能“发展出更黑暗的能力，甚至可能夺走生命”。他 补充说， 企业高管应该考虑这些工具落入不法分子手中可能带来的“生存危机”。 

查尔斯此前曾向在布莱切利庄园举行的英国 2023 年人工智能安全峰会发送视频致辞，表达了类似的观点。. 

梵蒂冈人工智能顾问保罗·贝南蒂出席了峰会，教皇利奥十四世在五月份的一份通谕中写道，人工智能不应掌握在“少数人”手中。

人工智能发展速度会放缓吗？ 

哈萨比斯告诉与会代表，能够在许多任务上与人类匹敌甚至超越人类的通用人工智能“可能只需短短几年就能实现”。 

他表示，科技的潜在影响可能是工业革命的十倍。他补充说，出现问题的概率“defi不为零”，但他随后又表示，“未来尚未书写”。

弗莱尔表示，这项技术日益增长的力量引发了人们对如何使其继续为人民服务的疑问，而且“没有任何一家公司或政府能够独自做到这一点”。 

黄仁勋领导的英伟达公司市值接近5.15万亿美元。他在会上表示，安全至关重要，如果产品尚未成熟，就应该暂缓发布。他力主对人工智能产品进行监管，而非监管技术本身，并捍卫开放模式，认为这是防止小国和研究人员被排除在外的有效途径。.

此次峰会召开之前，人类学家雅各布·考克森发表了一篇引发广泛关注的辞职声明，他的同事埃文·胡宾格预测人工智能有 10% 的可能性会导致人类灭绝，这引发了人们的担忧。.

Cryptopolitan 报道称，Anthropic 的 Dario Amodei 发表了一篇文章，敦促各实验室“引领前沿”，而 OpenAI 本周 后，将披露模型的不当行为dent。 

然而，并非所有人都认为这种危险是真实存在的：唐纳德·特朗普dent 称这种担忧是“骗局”。

如果你正在阅读这篇文章，你已经领先一步了。 订阅我们的新闻简报，继续保持领先优势。