앤트로픽의 최고 안전 연구원이 공개적으로 사임을 발표했습니다

앤트로픽의 수석 안전 연구원인 므리난크 샤르마가 이번 주 X에 올린 글을 통해 회사에서 사임한다고 발표했습니다. 샤르마의 이러한 결정은 현재 인공지능과 세계 정세에 대한 그의 우려에서 비롯된 것으로 보입니다

미르난크 샤르마는 안전장치 연구팀을 . 앤트로픽의 대규모 언어 모델(LLM)인 클로드(Claude)는 오픈AI의 ChatGPT . 샤르마의 퇴사는 다소 갑작스러웠는데, 안전장치 연구팀이 공식적으로 출범한 것은 작년 2월이었기 때문입니다. 이 팀의 주요 목표는 dent 하고 이해하며 완화하는 것이었습니다.

미국 최대 AI 기업 중 한 곳의 최고 안전 연구원이 갑작스럽게 사임하면서 소셜 미디어에서 큰 논란이 일고 있습니다. 사임서에서 가장 주목할 만한 부분은 샤르마 가 "세계가 위험에 처해 있다"고 의미심장하게 경고한 대목입니다. 그는 이 위험을 "단지 AI나 생물무기 때문만이 아니라", "바로 이 순간 펼쳐지고 있는 일련의 상호 연관된 위기들" 탓으로 돌렸습니다. 많은 사람들은 이를 AI 발전이 가져올 실존적 위험에 대한 경고로 해석했습니다. 샤르마의 사임은 최근 AI 기업에서 고위직 임원들이 잇따라 사임하는, 우려스럽고도 가속화되는 추세의 일부입니다.

샤르마의 사직서 해석

므리난크 샤르마는 편지를 시작하면서 자신의 배경과 자신에게 영감을 주는 요소들을 간략하게 소개했는데, 특히 "어려운 결정을 내리고 옳다고 생각하는 것을 위해 굳건히 나서는 의지"를 강조했습니다. 그는 또한 인공지능 기반 생물테러의 위험을 줄이기 위한 방어 체계를 개발 및 배포하고 최초의 인공지능 안전성 사례 중 하나를 작성하는 등 앤트로픽에서의 자신의 공헌에 대해서도 언급했습니다. 그의 최종 프로젝트는 "인공지능 보조 장치가 어떻게 우리를 덜 인간적으로 만들거나 인간성을 왜곡할 수 있는지 이해하는 것"이었습니다

하지만 그의 편지에서 가장 우려를 불러일으킨 부분은 세 번째 문단이었다. 그는 앤트로픽사우루스를 직접적으로 비난하거나 인공지능이 인류를 파멸시킬 것이라고 노골적으로 말하지는 않았지만, 사임 이유를 설명하기 위해 많은 철학적인 표현을 사용했다. 그는 "우리의 지혜가 세상에 영향을 미칠 수 있는 능력과 같은 정도로 성장해야 하는 임계점에 도달한 것 같다. 그렇지 않으면 그에 따른 결과를 직면하게 될 것이다."라고 썼다. 이어서 그는 "우리의 가치관이 행동을 진정으로 이끌도록 하는 것이 얼마나 어려운지 거듭 목격해 왔다."라고 덧붙였다. 또한 그는 세계가 일련의 상호 연결된 위기로 인해 위험에 처해 있다고 묘사했는데, 각주에서 이를 "메타 위기"에 기반한 "다중 위기"라고 설명했다

이러한 표현은 그가 앤트로픽을 가 회사 내부의 갈등보다는 철학적 견해 차이에서 비롯되었음을 암시합니다. 샤르마는 현 상황을 "메타 위기"에 기반한 "다중 위기"라고 묘사함으로써 사회와 나아가 인공지능 개발이 직면한 훨씬 더 큰 구조적 문제를 지적하는 것으로 보입니다. 기술은 집단 지혜보다 빠르게 발전하고 있으며, 현재 기술 개발을 관리하고 영향을 미치는 시스템과 권력은 현 세계 상황에 제대로 대응하지 못하고 있습니다.

샤르마의 편지에서 얻을 수 있는 더 큰 교훈은 다음과 같습니다

샤르마의 사임서에서 얻을 수 있는 더 큰 의미는 다면적이고 근본적인 문제입니다. 한편으로 그는 기술 기업들이 경쟁적인 시스템 속에서 인공지능(AI) 개발의 가속화에 어떻게 대처해야 하는지에 대한 근본적인 문제가 있다고 생각하는 것 같습니다. 세계 강대국들은 AI를 비롯한 기술 발전에서 서로를 능가하기 위한 군비 경쟁을 벌이고 있으며, 전 세계 기술 투자액은 2026년에 5조 6천억 달러에 달할 것으로 예상됩니다 . 이는 AI 기업들이 단순히 혁신하고 제품을 개발하는 데 그치지 않고 지정학적 갈등의 핵심 요소가 되고 있음을 의미합니다. 또한, 이러한 기업들은 주주들을 위해 좋은 성과를 내야 할 의무를 지니고 있으므로, 기술 발전에서 경쟁사를 능가하려는 동기가 더욱 강해집니다.

이러한 환경은 안전 원칙과 절차가 시장 압력, 국가 경쟁력, 투자자의 기대와도 조화를 이루어야 한다는 점을 부추깁니다. 하지만 AI 기업들이 빠르게 성장하고 역량을 발전시킴에 따라, 그에 수반되는 위험을dent하고 이해하며 완화해야 합니다. 샤르마가 지적하고자 하는 문제는 현재 AI 기업들이 활동하는 시스템이 안전과 윤리적 고려보다 성장을 우선시한다는 점입니다. 이러한 역학 관계가 갖는 함의는 근본적으로 심각하며 큰 우려를 불러일으킵니다. 샤르마처럼 높은 도덕성을 지닌 인물은 자신의 가치관을 훼손하지 않고서는 이러한 시스템 내에서 계속 활동할 수 없었기에, 결국 완전히 철수하게 된 것입니다.

COCA 카드로 결제하시면 USDC로 8% 캐시백을 받으실 수 있습니다 CASH 지금 무료 카드를 신청하세요.