人类学研究所首席安全研究员公开宣布辞职

Anthropic公司的一位首席安全研究员Mrinank Sharma本周在X网站上发帖宣布从该公司辞职。Sharma的这一决定似乎是出于他对当前人工智能和世界现状的担忧。

Mrinank Sharma曾领导Anthropic公司的安全保障研究团队ChatGPT。Sharma的离职相当突然，因为安全保障研究团队去年2月才正式成立。该团队的主要目标是识别dent理解并帮助降低Anthropic已部署的AI系统（例如Claude）所面临的风险。

美国一家大型人工智能公司顶级安全研究员的突然离职在社交媒体上引发了巨大争议。辞职信是夏尔马（Sharma）意味深长的警告：“世界正处于危险之中”。他将这种危险归咎于“人工智能或生物武器”，而是“一系列正在此刻发生的相互关联的危机”。许多人将此解读为对人工智能发展带来的生存风险的警告。夏尔马的辞职只是近期人工智能公司高管离职潮中一个令人担忧且愈演愈烈的趋势的一部分。

解读夏尔马的辞职信

米里南克·夏尔马在信的开头简要介绍了自己的背景和激励他前进的动力，其中最突出的是“勇于做出艰难的决定并坚持正义”。他还谈到了自己对安特罗皮克公司的贡献，包括开发和部署防御措施“以降低人工智能辅助生物恐怖主义的风险”，以及撰写最早的人工智能安全案例之一。他的最后一个项目是“了解人工智能助手如何使我们变得不那么人性化或扭曲我们的人性”。

然而，他信中最令人担忧的部分是第三段。虽然他没有直接指责Anthropic公司有任何不当行为，也没有直言人工智能会毁灭人类，但他确实运用了大量哲学语言来解释他的辞职。他指出，“我们似乎正接近一个临界点，我们的智慧必须与我们影响世界的能力同步增长，否则我们将面临后果。” 随后他又写道，“我反复看到，真正让我们的价值观指导我们的行为是多么困难。” 他还描述了世界正处于一系列相互关联的危机之中，并在脚注中将其描述为由“元危机”支撑的“多重危机”。

这种说法暗示，他离开Anthropic更多是出于理念分歧，而非公司内部的任何纠纷。Sharma将当前形势描述为由“元危机”引发的“多重危机”，似乎是在指出社会乃至人工智能发展面临的一个更为宏大的结构性问题。技术发展速度远超集体智慧，而当前管理和影响技术发展的体系和权力机构，在当今世界形势下，已无法胜任这项工作。

从夏尔马的信中我们能得到更重要的启示。

夏尔马的辞职信传递的信息是多方面的，也关乎企业的存亡。一方面，他似乎认为科技公司在竞争激烈的市场环境中应对人工智能加速发展的方式存在根本性问题。全球强国正竞相在人工智能和其他技术领域超越彼此，预计到2026年，全球科技支出将达到5.6万亿美元。这意味着人工智能公司不仅在创新和开发产品，而且是地缘政治冲突的关键组成部分。此外，这些公司负有为股东创造良好业绩的信托责任，这促使它们在技术进步方面超越竞争对手。

这导致安全原则和程序必须与市场压力、国家竞争力以及投资者的期望相一致。然而，随着人工智能公司快速扩张并提升自身能力，它们需要dent、理解并降低随之而来的风险。夏尔马似乎正在探讨的问题是，人工智能公司目前所处的体系自然而然地将增长置于安全和伦理考量之上。这种动态的影响是深远的，令人极为担忧。像夏尔马这样一位品行端正的人，如果继续在这种体系下运作而不违背自己的价值观，最终只能选择彻底退出。.

使用 COCA 付款，即可获得 8% 的CASH立即申请您的免费卡。