앤트로픽 “펜타곤 판결, 모든 AI 모델의 기능 안보 리스크로 규정”

Anthropic은 펜타곤의 ‘공급망 위험’ 지정에 대한 항전을 연방 항소법원 단계로 격상했다. 

AI 연구소는 이 판결이 유지될 경우, 정부가 ‘모든 AI 모델’이 이미 갖춘 안전 기능을 이유로 모든 계약업체에 국가안보 위협 태그를 붙이는 선례가 될 것이라고 주장한다. 

Anthropic의 청원서 제출문에서는 ‘적대적 외국 행위자’를 겨냥한 법이 ‘모든 정부 계약업체를 기본적으로 포괄하는 법’으로 오해되고 있다고 밝혔다. 

Anthropic, DC 순회항소법원에 공급망 위험 지정 건 제기

10월 13일 화요일 제출된 청원에서 Anthropic은 미 항소법원 DC 순회항소법원에 국방부의 국가안보 위협 라벨 관련 사건 재심을 요청했으며, 이는 9월 3인조 판사의 불리한 결정 이후 이루어진 것이다. 

이 청원과의 차이점은 앤트로픽이 현재 요청하는 전원심리(en banc review)가 원래의 법관 패널이 아닌 전체 법관을 대상으로 사건을 심리하게 한다는 점입니다.

앤트로픽은 패널이 "잘못 해석된41 U.S.C. § 4713 연방 공급망 보안 법의 조항을 국방장관이 해당 기업을 국가안보 위험으로 지정할 수 있도록 허용한 부분입니다. 이 결정의 근거가 되는 '배치 전 모델 교육'은 이미 '모든 AI 모델의 기능'이라고 밝혔습니다. 

Anthropic는 DC 법원에 Pentagon의 지정이 회사의 'AI 안전에 관한 발언' 때문에 표적이 되었다고 주장하며, 이는 '사전 지정 절차 없이' 이루어졌다고 말했습니다. 

Anthropic는 정부의 블랙리스트 등재로 인해 수십억 달러의 사업 손실을 입었다고 주장합니다.

왜 Anthropic의 공급망 위험 지정이 유지되었는가? 

Gregory Katsas 상급법관 판사는 9월 판결문에서 패널이 Pentagon의 지정 결정에 대해 2대 1로 찬성했다고 기록했습니다. 앤트로픽의 클로드 AI 모델 회사의 설계 원칙에 따라 살상 자율 무기 및 대규모 국내 감시와 같은 특정 용도를 거부하기 때문에 공급망 위험으로 분류되었습니다. 

네오미 라오 연방판사가 찬성한 합류 의견에서 카타스는 앤트로픽이 모델에 적용할 수 있는 제한 사항들로 인해 펜타곤이 클로드가 필요에 따라 작동할 것이라고 신뢰할 수 있다고 썼습니다. 

앤트로픽은 패널의 유일한 반대자인 카렌 레크래프트 헨더슨 연방판사의 입장을 따르고 있습니다. 헨더슨은 이 판결의 근거가 되는 2018년 연방조달 공급망 보안법이 의회적으로 정부 기술에 대한 적대적이거나 기만적인 간섭을 차단하기 위해 제정되었다고 주장했습니다.

앤트로픽이 다른 AI 연구소들에게 경고하는 이유

앤트로픽의 청원서 또한 정부가 특정 사용 사례를 거부하는 AI 모델 설계 기준을 설정할 수 있게 된다면, 다른 AI 연구소들도 펜타곤의 요청을 거절했을 때 동일한 공급망 위험 등급을 받을 수 있다고 경고합니다. 

CEO 다리오 아모데이와 트럼프 행정부는 프론티어 AI 기업들의 안전 규칙을 놓고 역사적으로 의견 충돌을 빚어 왔습니다. 그 갈등은 심지어 트럼프 측근들이 아모데이를 AI ‘두머리즘(doomerism)’의 상징으로 묘사하는 백악관 메모를 유포하기에 이르렀습니다. Cryptopolitan이 보고.

캘리포니아 연방 지방법원의 리타 린(Rita Lin) 판사는 8월 유사한 지정을 무효화할 당시, 정부가 앤트로픽이 실제로 자신의 모델을 sabotaging(파괴/손상)할 것이라고 입증하지 못했다고 판단했습니다. 특히 해당 지정은 다른 조달 법규에 근거해 내려졌습니다.

이 글을 읽고 계신다면, 이미 앞서 나가고 있습니다. 뉴스레터로 그 위치를 유지하세요.