(단독)-美 국방부, AI 기업들에 기밀 네트워크 확장 촉구 - 소식통들

2월12일 (로이터) - 미국 국방부가 오픈AI와 앤트로픽을 포함한 주요 인공지능(AI) 기업들에게 기업들이 사용자에게 적용하는 표준 제한 사항 대부분을 적용하지 않고 기밀 네트워크에서도 AI 도구를 사용할 수 있도록 압박하고 있다.

화요일 백악관 행사에서 국방부 최고기술책임자(CTO) 에밀 마이클은 기술 기업 최고경영진들에게 군이 비기밀 및 기밀 영역 모두에서 AI 모델을 활용할 수 있도록 하는 것을 목표로 하고 있다고 말했다고 해당 사안에 정통한 두 관계자가 전했다.

익명을 요구한 한 관리는 로이터에 "국방부는 모든 기밀 등급에 걸쳐 최첨단 AI 역량을 배치하기 위한 조치를 취하고 있다"고 말했다.

이는 자율 무인기 군집, 로봇, 사이버 공격이 이미 지배하는 미래 전장에서 미국이 AI를 어떻게 활용할지에 대해 국방부와 주요 생성형 AI 기업들 간 진행 중인 협상의 최신 동향이다.

마이클 최고기술책임자의 발언은 군의 무제한 AI 활용 의지와 기술 기업들의 도구 배포 경계 설정 능력 간에 벌어진 논쟁을 더욱 격화시킬 전망이다.

많은 AI 기업들이 미군을 위한 맞춤형 도구를 개발 중이며, 대부분은 군 행정 업무에 주로 사용되는 비기밀 네트워크에서만 이용 가능하다. 단 앤트로픽만이 제3자를 통해 기밀 환경에서 사용 가능하지만, 정부 역시 해당 기업의 사용 정책을 따라야 한다.

기밀 네트워크는 작전 계획 수립이나 무기 표적 지정 등 더 민감한 업무를 처리하는 데 사용된다. 로이터는 국방부가 기밀 네트워크에 AI 챗봇을 언제, 어떻게 배치할 계획인지는 확인하지 못했다.

군 관계자들은 의사 결정 형성에 도움을 주기 위해 정보를 종합하는 AI의 힘을 활용하기를 희망하고 있다. 그러나 이러한 도구들은 강력하지만 실수를 할 수 있으며, 언뜻 그럴듯해 보이는 정보를 조작할 수도 있다. AI 연구자들은 기밀 환경에서 이러한 오류가 치명적인 결과를 초래할 수 있다고 말한다.

AI 기업들은 모델 내부에 안전 장치를 구축하고 고객에게 특정 가이던스 준수를 요구함으로써 제품의 부정적 영향을 최소화하려 노력해왔다. 그러나 국방부 관계자들은 이러한 제한에 반발하며, 미국 법률을 준수하는 한 상용 AI 도구를 배치할 수 있어야 한다고 주장해왔다.

이번 주 오픈AI는 국방부와 협약을 체결해 군이 'genai.mil'이라는 비기밀 네트워크에서 챗GPT를 포함한 자사 도구를 사용할 수 있도록 했다. 이 네트워크는 국방부 직원 300만 명 이상에게 제공되고 있다. 협약의 일환으로 오픈AI는 일부 안전장치는 유지하되 일반적인 사용자 제한 사항 대부분을 해제하기로 합의했다.

알파벳의 구글 GOOGL.O 과 xAI도 이전에 유사한 협약을 체결한 바 있다.

오픈AI는 성명을 통해 이번 주 합의는 genai.mil을 통한 비기밀 용도에 한정된다고 밝혔다. 대변인은 해당 협정 확대를 위해서는 새로운 협정 체결 또는 기존 협정 수정이 필요하다고 덧붙였다.

로이터는 이전 보도에서 오픈AI의 경쟁사 앤트로픽과 국방부 간의 유사한 논의가 훨씬 더 갈등을 갖고 있었다고 전했다. 앤트로픽 경영진은 군 관계자들에게 자사 기술이 무기 자율 표적 지정이나 미국 내 감시에 사용되는 것을 원치 않는다고 밝힌 바 있다. 앤트로픽의 제품에는 '클로드(Claude)'라는 챗봇이 포함된다.

앤트로픽 대변인은 "앤트로픽은 미국이 AI 분야에서 선도적 위치를 유지하도록 보호하고, 우리 군인들이 최첨단 AI 능력을 활용할 수 있도록 지원함으로써 미국 정부가 외국 위협에 대응할 수 있도록 돕는 데 전념하고 있다"고 말했다. 이어 "클로드는 이미 미국 정부에 의해 국가 안보 임무에 광범위하게 사용되고 있으며, 우리는 전쟁부와 그 작업을 지속할 수 있는 방안에 대해 생산적인 논의를 진행 중이다"라고 덧붙였다.

도널드 트럼프 대통령은 국방부를 전쟁부로 개명하라고 지시했으며, 이 변경은 의회의 승인이 필요하다.

원문기사 nL6N3Z714O