뉴욕시 연금 감독 기구, 아모데이의 '속도 조절' 에세이를 앤트로픽 2조 달러 IPO에 역이용

뉴욕시(NYC) 감사관 마크 레빈은 Anthropic CEO 다리오 아모데이에게 보낸 서한에서 Anthropic의 계획된 IPO를 일시 중단해 달라고 요청했습니다.

레빈은 IPO를 진행하기 전에 AI가 야기하는 안전성 및 기타 전례 없는 리스크를 먼저 해결하기를 원합니다. 그는 CEO 다리오 아모데이가 AI 산업에 속도를 늦출 것을 촉구했던 자신의 에세이를 지적했습니다.

서한 회사가 2 조 달러에 가까운 기업 가치를 추구함에 따라

“IPO에 무모하게 돌진하는 것”

레빈은 Anthropic이 AI의 위험성을 세계에 경고하면서 동시에 공개 시장으로 뛰어드는 것은 불가능하다고 썼습니다. 

10월 14일자로 공개된 서한에서 회계감사관은 “회사가 제기한 인공지능(AI) 안전성, 거버넌스 및 개발 속도 관련 우려를 회사가 완전히 그리고 투명하게 해결할 때까지 Anthropic의 계획된 초기 공개 청약(IPO)을 중단해 줄 것을 촉구하기 위해 이 글을 씁니다.”라고 밝혔습니다.

Levine은 중립적인 관찰자가 아닙니다. 회계감사관으로서 그는 뉴욕시 연금기금의 투자 자문가, 신탁보관인 및 수탁자로서 3,250억 달러 이상의 자산을 관리하고 있습니다.

회계감사관 사무소는 공공 연금기금이 사모지분을 통해 Anthropic에 약 700만 달러의 노출(exposure)을 보유하고 있다고 밝혔습니다.

비록 지분 비중은 작지만, 이는 회계감사관이 기업이 상장 전에 회사에 압력을 가할 수 있는 입지를 제공합니다.

Levine은 회사의 구조에 대해 우려를 표명했습니다. 그는 Anthropic이 델라웨어주 공익법인으로 장기적 이익 신탁(Long-Term Benefit Trust)을 운영하고 있음을 지적했습니다. 보고서에 따르면 Levine의 주장대로 Anthropic은 창립자와 수탁자에게 집중적인 통제권을 부여할 수 있습니다. 

그는 이미 Anthropic이 공개한 위험들을 고려할 때, 이러한 통제권과 주주 책임 간의 격차는 용납하기 어렵다고 주장했습니다.

Amodei의 에세이가 실제로 주장한 내용

Levine의 서한은 다음에 기반을 두고 있습니다 Amodei 에세이 “우리는 프론티어를 신중하게 개척해야 한다”라는 제목의 기고문으로, 9월 12일 발표되었습니다.

아모데이(Amadei)는 “우리는 AI 모델의 능력을 향상시키는 속도를 늦춰야 한다”라고 썼습니다. 그는 재귀적 자기 개선과 산업 전반의 보안 사고가 그에게 필드가 더 많은 안전 투자뿐만 아니라 더 많은 주의가 필요하다는 것을 확신시켰다고 말했습니다.

그 에세이에서는 세 단계 계획이 제안되었으며, 첫 번째 단계는 직원과 유사한 접근 권한을 가진 제3자 평가자를 배치하여 안전 관행을 검증하는 것입니다. 앤트로픽(Anthropic)은 이미 자체적으로 이에 동의했습니다.

두 번째 단계는 민주주의 국가들의 AI 기업들 간의 협력을 요구하며, 세 번째 단계는 독재 정부를 포함한 전 세계적 협력을 추진합니다.

레빈(Levin)에 따르면, IPO는 아모데이가 긴급하다고 말하는 작업의 방해물이 되고 있습니다.

아모데이의 에세이가 발표되었을 때, 오픈AI의 샘 알트먼(Sam Altman)과 xAI의 일론 머스크(Elon Musk)가 이를 지지하며 업계 전반에서 지지를 받았습니다.

2 조 달러 규모의 IPO, 45% 성장 기반

수요일인 10월 14일 샌프란시스코에서 열린 비공개 사전 IPO 미팅에서, 앤트로픽은 투자자들에게 3분기 매출이 약 16.8억 달러에 달했다, 이는 이전 분기 대비 45% 증가한 수치이며, 조정 후 흑자를 달성했다고 밝혔습니다.

올해 1분기 앤트로픽은 47억 달러의 매출을 기록했으며, 이는 2분기에 약 116억 달러로 크게 증가했습니다. 그러나 해당 기간 동안 회사는 80억 달러 이상의 영업 손실을 기록했습니다.

회사는 이번 투자자들에게 3분기 말에 현금흐름이 흑자를 기록했다고 밝혔는데, 이는 막대한 자금을 소모해 온 업계에서 매우 드문 주장입니다.

앤트로픽은 향후 10년간 5,180억 달러 이상의 계획된 인프라 및 컴퓨팅 계약을 보유하고 있습니다.

이 대차대조표는 2조 달러를 넘어설 수 있는 상장 사례를 제시하며, 공개 시장 데뷔를 2027년 초로 목표로 하는 경쟁사 오픈AI를 앞질렀습니다. 앤트로픽은 6월 1일 SEC에 비공개로 S-1 초안을 제출했습니다.

거버넌스와 백악관 합의

레빈은 최근 산업계와 정부 간 합의를 너무 피상적이라고 일축했습니다. 앤트로픽과 다른 5개 기업은 백악관과 서명했는데, 이 서한에서는 이를 도덕적으로 구속력 있는 합의라고 불렀으며, 레빈은 이것이 “현재 시점에서 요구되는 수준을 충족하기에 부족하다”고 말했습니다.

감사관의 우려 중 일부는 앤트로픽의 자체 공개 자료로 인해 더욱 부각되고 있습니다. 이 회사는 S-1 초안에서 고급 AI가 “인류에 대한 파괴적 또는 실존적 위험,”라는 위험을 초래할 수 있다고 경고했으며, 리스크 요인 설명은 약 80페이지에 달해 사업 내용을 설명하는 섹션 길이의 거의 두 배입니다.

그가 지적하는 위험을 더 강조하기 위해 레빈은 코독슨이 전직 연구원이었던 9월 9일 사임한 후 아모데이의 에세이가 출판되었다고 언급했습니다. 

코독슨은 앤트로픽 내부자들이 개발 속도를 고려할 때 AI가 이번 세기 말까지 인류를 멸망시킬 수 있다고 믿고 있다는 점을 들어 존재론적 우려를 퇴사의 이유로 꼽았습니다.

회사의 정렬 과학 책임자 에반 허빙어의 성명에 따르면, AI가 10년 내에 모든 인간을 죽일 확률은 10% 이상으로 추정됩니다.

IPO 정확한 날짜는 아직 공유되지 않았으나, 시장에서는 미국 중간선거 이후가 될 것이라고 추측하고 있습니다. 다만 여전히 오픈AI보다 먼저 상장할 것으로 예상됩니다.

가장 똑똑한 암호화폐 전문가들이 이미 우리 뉴스레터를 구독하고 있습니다. 참여하고 싶으신가요? 함께하세요.