단독-국방부, 군사 AI 사용을 놓고 앤트로픽과 충돌, 소식통에 따르면

Deepa SeetharamanㆍDavid JeansㆍJeffrey Dastin

워싱턴/샌프란시스코, 1월30일 (로이터) - 국방부는 정부가 자율적으로 무기를 표적화하고 미국 국내 감시를 수행하는 데 자사 기술을 배치하지 못하도록 하는 안전 장치를 두고 인공지능 개발사 앤트로픽과 갈등을 겪고 있다고 이 문제에 정통한 세 소식통이 로이터에 전했다.

이 논의는 수년간의 긴장 끝에 워싱턴의 호의를 받은 실리콘밸리가 미군과 정보 요원들이 전장에서 점점 더 강력한 AI를 배치하는 방식을 흔들 수 있는지에 대한 초기 테스트 사례다.

최대 2억 달러 규모의 계약( (link)에 따른 광범위한 논의 끝에 미 국방부와 앤트로픽은 교착 상태에 빠졌다고 익명을 전제로 이 문제에 정통한 6명의 관계자가 전했다.

AI 도구의 사용 방법에 대한 회사의 입장은 이전에 보도되지 않았던 세부 사항과 관련해 트럼프 행정부와 회사 간의 의견 불일치를 심화시켰다.

트럼프 행정부가 전쟁부로 이름을 바꾼 국방부 대변인은 논평 요청에 즉시 응답하지 않았다.

앤트로픽은 자사의 AI가 "미국 정부의 국가 안보 임무에 광범위하게 사용되고 있으며, 이러한 작업을 계속할 수 있는 방법에 대해 전쟁부와 생산적인 논의를 진행하고 있다"고 말했다.

앤트로픽의 펜타곤 사업을 위협할 수 있는 이번 갈등은 회사로서는 미묘한 시기에 벌어진 일이다.

샌프란시스코에 본사를 둔 이 스타트업은 기업 공개를 준비하고 있다. 또한 미국 국가 안보 사업을 유치하기 위해 상당한 자원을 투자하고 정부 AI 정책을 형성하는 데 적극적인 역할을 모색하고 있다.

앤트로픽은 작년에 미 국방부로부터 계약을 수주한 몇 안 되는 주요 AI 개발사 중 하나다. 다른 업체로는 알파벳의 구글 GOOGL.O, 일론 머스크의 xAI, 오픈AI 등이 있다.

무기 타겟팅

일부 소식통은 정부 관계자와의 논의에서 앤트로픽 대표들이 자사의 도구가 충분한 인간 감독 없이 미국인을 감시하거나 무기 표적화를 지원하는 데 사용될 수 있다는 우려를 제기했다고 로이터에 밝혔다.

국방부는 이 회사의 지침에 대해 강하게 반발했다. 1월 9일자 AI 전략에 관한 국방부 메모에 따르면, 국방부 관리들은 미국 법률을 준수하는 한 기업의 사용 정책에 관계없이 상업용 AI 기술을 배포할 수 있어야 한다고 주장했다고 소식통은 전했다.

그럼에도 불구하고 국방부 관리들은 앞으로 앤트로픽의 협력이 필요할 것으로 보인다. 앤트로픽의 모델은 해를 끼칠 수 있는 조치를 취하지 않도록 훈련되어 있으며, 앤트로픽의 직원들이 국방부를 위해 AI를 재조정할 것이라고 일부 소식통은 말했다.

앤트로픽의 신중함은 이전에도 트럼프 행정부와 갈등을 빚은 바 있으며, Semafor가 (link) (link) 보도했다.

이번 주 개인 블로그에 올린 에세이에서 앤트로픽의 최고 경영자 다리오 아모데이는 AI가 "우리를 독재적인 적들과 더 비슷하게 만드는 것을 제외한 모든 방식으로" 국가 방위를 지원해야 한다고 경고했다.

아모데이는 미니애폴리스에서 이민 단속에 항의하던 미국 시민에 대한 치명적인 총격 사건을 "공포"( )라고 표현하며 비판한 앤트로픽의 공동 창립자 중 한 명이다. (link)

이번 사망 사건으로 실리콘 밸리의 일부에서는 정부가 잠재적인 폭력을 위해 도구를 사용하는 것에 대한 우려가 커지고 있다.