人類學研究所首席安全研究員公開宣佈辭職

Anthropic公司的一位首席安全研究員Mrinank Sharma本週在X網站上發帖宣佈從該公司辭職。Sharma的這一決定似乎是出於他對當前人工智能和世界現狀的擔憂。

Mrinank Sharma曾領導Anthropic公司的安全保障研究團隊ChatGPT。Sharma的離職相當突然，因爲安全保障研究團隊去年2月才正式成立。該團隊的主要目標是識別dent理解並幫助降低Anthropic已部署的AI系統（例如Claude）所面臨的風險。

美國一家大型人工智能公司頂級安全研究員的突然離職在社交媒體上引發了巨大爭議。辭職信是夏爾馬（Sharma）意味深長的警告：“世界正處於危險之中”。他將這種危險歸咎於“人工智能或生物武器”，而是“一系列正在此刻發生的相互關聯的危機”。許多人將此解讀爲對人工智能發展帶來的生存風險的警告。夏爾馬的辭職只是近期人工智能公司高管離職潮中一個令人擔憂且愈演愈烈的趨勢的一部分。

解讀夏爾馬的辭職信

米里南克·夏爾馬在信的開頭簡要介紹了自己的背景和激勵他前進的動力，其中最突出的是“勇於做出艱難的決定並堅持正義”。他還談到了自己對安特羅皮克公司的貢獻，包括開發和部署防禦措施“以降低人工智能輔助生物恐怖主義的風險”，以及撰寫最早的人工智能安全案例之一。他的最後一個項目是“瞭解人工智能助手如何使我們變得不那麼人性化或扭曲我們的人性”。

然而，他信中最令人擔憂的部分是第三段。雖然他沒有直接指責Anthropic公司有任何不當行爲，也沒有直言人工智能會毀滅人類，但他確實運用了大量哲學語言來解釋他的辭職。他指出，“我們似乎正接近一個臨界點，我們的智慧必須與我們影響世界的能力同步增長，否則我們將面臨後果。” 隨後他又寫道，“我反覆看到，真正讓我們的價值觀指導我們的行爲是多麼困難。” 他還描述了世界正處於一系列相互關聯的危機之中，並在腳註中將其描述爲由“元危機”支撐的“多重危機”。

這種說法暗示，他離開Anthropic更多是出於理念分歧，而非公司內部的任何糾紛。Sharma將當前形勢描述爲由“元危機”引發的“多重危機”，似乎是在指出社會乃至人工智能發展面臨的一個更爲宏大的結構性問題。技術發展速度遠超集體智慧，而當前管理和影響技術發展的體系和權力機構，在當今世界形勢下，已無法勝任這項工作。

從夏爾馬的信中我們能得到更重要的啓示。

夏爾馬的辭職信傳遞的信息是多方面的，也關乎企業的存亡。一方面，他似乎認爲科技公司在競爭激烈的市場環境中應對人工智能加速發展的方式存在根本性問題。全球強國正競相在人工智能和其他技術領域超越彼此，預計到2026年，全球科技支出將達到5.6萬億美元。這意味着人工智能公司不僅在創新和開發產品，而且是地緣政治衝突的關鍵組成部分。此外，這些公司負有爲股東創造良好業績的信託責任，這促使它們在技術進步方面超越競爭對手。

這導致安全原則和程序必須與市場壓力、國家競爭力以及投資者的期望相一致。然而，隨着人工智能公司快速擴張並提升自身能力，它們需要dent、理解並降低隨之而來的風險。夏爾馬似乎正在探討的問題是，人工智能公司目前所處的體系自然而然地將增長置於安全和倫理考量之上。這種動態的影響是深遠的，令人極爲擔憂。像夏爾馬這樣一位品行端正的人，如果繼續在這種體系下運作而不違背自己的價值觀，最終只能選擇徹底退出。.

使用 COCA 付款，即可獲得 8% 的CASH立即申請您的免費卡。