미국 정부, 안보 우려로 앤트로픽에 가장 강력한 AI 모델 가동 중단 강제

앤트로픽은 미국 상무부의 수출 통제 명령에 따라 6월 12일 금요일, 최고 성능을 자랑하는 두 개의 AI 모델 기능을 중단했습니다. 이는 정부가 첨단 AI 기술의 상용화를 방해한 이례적인 사례였습니다.

미국 상무부 장관 하워드 루트닉은 금요일 오후 5시 21분(미국 동부시간)에 앤트로픽 CEO 다리오 아모데이에게 클로드 페이블 5와 클로드 미토스 5에 대한 접근을 제한하라고 지시했다고 앤트로픽 측이 발표했습니다.

이 지침은 미국 내외에 관계없이 모든 외국인에게 적용되었으며, 여기에는 앤트로픽의 외국인 직원도 포함되었습니다.

앤트로픽은 국적 기반 제한을 효과적으로 시행할 수 없다고 판단하여 해당 모델들을 비활성화했다고 밝혔습니다. 다른 클로드 모델들은 여전히 이용 가능합니다.

상무부, 앤트로픽의 최신 모델에 대한 제재 조치

악시오스는 정부 관계자를 인용해 익명의 회사가 페이블 5의 안전 시스템 일부를 우회할 수 있는 기술에 대해 경고한 데 따른 지시라고 보도했습니다.

앤스로픽은 불과 3일 전인 6월 9일에 두 가지 모델을 공개했습니다. Fable 5는 일반에 공개되었지만, Mythos 5는 Project Glasswing에 참여하는 일부 사이버 보안 파트너에게만 제공되었습니다.

앞서 트럼프 행정부는 해당 회사에 출시를 연기하도록 설득하기 위해 대화를 진행했지만, 앤트로픽은 이를 무시하고 그대로 진행했습니다.

백악관 관계자는 국가 안보 기반을 강화하는 동안 모델들을 비공개로 유지하는 것이 중요하다고 생각하며, 그 과정은 몇 주가 걸릴 것으로 예상한다고 밝혔습니다.

해당 지침에 따라 미국 내로 두 모델 중 하나를 수출, 재수출 또는 양도하려는 모든 당사자는 상무부의 허가를 받아야 합니다. 앤트로픽사 또한 개별적으로 유효한 허가를 신청해야 합니다. 악시오스 보도에 따르면, 이를 준수하지 않을 경우 금전적 및 민사적 처벌을 받을 수 있습니다.

앤트로픽은 탈옥 위험이 과장되었다고 말합니다

앤스로픽은 해당 지침에 반발하며 문제의 탈출 시도는 제한적인 것이었으며 모델의 안전 시스템을 전면적으로 우회한 것에 해당하지 않는다고 주장했다.

해당 회사는 이 기술이 모델에게 특정 코드베이스를 검토하고 소프트웨어 결함을dent하도록 요청하는 방식이라고 설명했습니다. 앤트로픽은 이 방법의 시연을 검토한 결과, 이전에 알려진 사소한 취약점만 발견되었다고 밝혔습니다.

앤트로픽은 "다른 공개 모델들도 우회 없이 이러한 것들을 발견할 수 있다는 것을 확인했다"며 오픈AI의 GPT-5.5를 한 예로 들었다.

앤트로픽은 또한 출시 전 미국 정부, 영국 AI 안전 연구소 및 민간 단체와 함께 수천 시간에 걸쳐 레드팀 테스트를 진행했다고 밝혔습니다.

회사 측은 해당 테스트에서 보편적인 탈옥 방법은 발견되지 않았다고 밝혔습니다. 즉, 다양한 기능에 걸쳐 모델의 안전 제어 기능을 광범위하게 무력화할 수 있는 단일 방법은 없다는 뜻입니다.

앤트로픽은 "잠재적인 탈옥 가능성이 아주 미미하게 발견되었다는 이유만으로 수억 명에게 배포된 상용 모델을 리콜해야 한다는 주장에 동의하지 않는다"며, "이러한 기준이 업계 전반에 적용된다면, 모든 신모델 개발업체의 새로운 모델 배포가 사실상 중단될 것"이라고 밝혔습니다

Fable 5는 이미 비판에 직면해 있었다

이번 시스템 중단은 앤트로픽에게 있어 격동적인 출시 주간의 정점을 찍었다.

Fable 5는 6월 9일 출시 당시 사이버 보안, 생물학, 화학, AI 연구 분야의 민감한 검색어를 이전 모델인 Claude Opus 4.8로 연결하는 필터를 적용했습니다. 하지만 이 필터는 지나치게 제한적이라는 비판을 즉시 받았습니다.

Cryptopolitan의 이전 보도에 따르면, 사용자들은 해당 모델이 세포막과 mRNA 백신과 관련된 기본적인 생물학적 질문에 제대로 대응하지 못한다고 지적했습니다.

또 다른 논란은 앤트로픽이 319페이지에 달하는 시스템 카드에 명시한 내용에 집중되었습니다. 이 카드에는 Fable 5가 최첨단 AI 연구와 관련된 질문에 대해 사용자에게 경고 없이matic으로 출력 품질을 낮출 것이라고 적혀 있었습니다.

앤트로픽은 연구원들이 숨겨진 안전장치가 소수의 기업에 AI 기술을 집중시킬 수 있다고 주장한 후 6월 10일에 해당 정책을 변경했습니다. 회사는 사과하고 향후 안전장치는 사용자에게 공개될 것이라고 밝혔습니다.

마이크로소프트는 앤트로픽이 미소스급 모델에 대해 30일 데이터 보존을 요구했기 때문에 직원들의 페이블 5 사용을 제한했다고 더 버지가 보도했습니다.

해당 정책에 따라 신뢰와 안전을 위해 프롬프트와 출력 결과는 30일 동안 저장되며, 문제가 있는 것으로 표시된 콘텐츠는 최대 2년까지 보관될 수 있습니다.

앤트로픽은 가동 중단을 해제하기 위해 노력하고 있다고 밝혔습니다

앤트로픽 측은 정부의 조치가 오해에 기반한 것이며, 문제 해결을 위해 관계자들과 협력하고 있다고 밝혔습니다. 또한 24시간 이내에 추가 정보를 제공할 것이라고 덧붙였습니다.

이번 가동 중단은 앤트로픽에게 매우 중요한 시점에 발생했습니다. 로이터 통신에 따르면, 이 회사는 지난달 말 9,650억 달러의 기업 가치로 650억 달러를 조달한 후, 이달 초 미국 기업공개(IPO)를 위한dent서류를 제출했습니다.

앤트로픽은 현재 두 가지 측면에서 압박에 직면해 있습니다. 규제 당국은 가장 첨단 모델의 안전성에 의문을 제기하고 있으며, 투자자들은 앤트로픽이 상업적 수익을 지속적으로 성장시킬 수 있을지에 대해 기대를 걸고 있습니다.

X 플랫폼의 클로드 공식 계정은 새 세션이 이제 사용자가 선택한 모델 또는 Opus 4.8로 기본 설정될 것이라고 사용자들에게 알렸습니다. 기존 Fable 5 세션은 오류와 함께 종료되며, 개발자들은 다른 클로드 모델과의 통합을 업데이트하도록 권고받았습니다.

이 글을 읽고 계시다면 이미 앞서 나가고 계신 겁니다. 뉴스레터를 구독하시면 더욱 유익한 정보를 받아보실 수 있습니다.