미 국방부는 기밀 군사 AI 도구에 대한 규제 완화를 위해 오픈AI와 앤스로픽에 압력을 가하고 있습니다

미 국방부는 주요 인공지능 기업들에게 기밀 시스템 내에서 미군이 자사 도구에 접근할 수 있도록 허용하라는 강력한 압력을 가하고 있다.

관계자들은 단순히 기본적인 접근 권한만을 요구하는 것이 아닙니다. 그들은 기업들이 사용자에게 일반적으로 부과하는 모든 제한 없이 이러한 AI 모델이 작동하기를 원합니다.

화요일 백악관 회의에서 에밀 마이클 국방부 최고기술책임자는 군 관계자들에게 군이 기밀 및 비기밀 네트워크 모두에서 이러한 AI 모델을 운영하기를 원한다고 밝혔습니다.

협상에 정통한 한 관계자는 정부가 이제 이른바 "최첨단 인공지능 역량"을 모든 군사 분야에 도입하는 데 주력하고 있다고 전했다.

미 국방부는 보안 네트워크 전반에 걸쳐 제한 없는 접근을 요구한다

이러한 움직임은 미래 전투에서 인공지능이 어떻게 활용될 것인지에 대한 더 큰 논의의 일환입니다. 전쟁은 이미 드론 편대, 로봇, 그리고 끊임없는 사이버 공격으로 인해 양상이 바뀌고 있습니다. 미 국방부는 기술 업계가 허용 범위를 정하는 동안 뒤처지고 싶어 하지 않습니다.

현재 대부분의 군 관련 기업들은 자사 모델의 기능을 축소한 버전을 제공하고 있습니다. 이러한 모델은 행정 업무에 사용되는 개방형, 비공개 시스템에서만 작동합니다. 앤스로픽은 이러한 점에서 예외입니다.

앤트로픽의 챗봇인 클로드는 일부 기밀 환경에서 사용할 수 있지만, 제3자 플랫폼을 통해서만 가능합니다. 설령 제3자 플랫폼을 이용하더라도 정부 사용자는 앤트로픽의 규칙을 준수해야 합니다.

미 국방부가 원하는 것은 극비 네트워크에 직접 접근하는 것입니다. 이러한 시스템은 임무 계획이나 목표물 확정 등에 사용됩니다. 클로드나 챗GPT 같은 챗봇이 언제, 어떻게 이러한 네트워크에 설치될지는 불분명하지만, 그것이 궁극적인 목표입니다.

관계자들은 인공지능이 엄청난 양의 데이터를 처리하고 의사 결정권자에게 신속하게 제공하는 데 도움이 될 수 있다고 믿습니다. 그러나 이러한 도구가 잘못된 정보를 생성할 경우, 그리고 실제로 그런 경우가 있는데, 이는 인명 피해를 초래할 수 있습니다. 연구자들은 바로 그 점에 대해 경고해 왔습니다.

OpenAI는 이번 주 미 국방부와 계약을 체결했습니다. ChatGPT는 이제 genai.mil이라는 비공개 네트워크에서 사용될 예정입니다. 이 네트워크는 이미 국방부 소속 300만 명 이상의 직원을 대상으로 서비스를 제공하고 있습니다.

이번 계약의 일환으로 OpenAI는 기존 사용 제한 사항들을 상당 부분 해제했습니다. 여전히 몇 가지 안전장치는 남아 있지만, 미 국방부는 원하는 대부분의 것을 얻었습니다.

회사 대변인은 밝혔습니다 . 구글과 일론 머스크의 xAI는 과거에도 유사한 계약을 체결한 바 있습니다.

인공지능 연구자들이 사직하며 위험성을 지적하고 있다

앤트로픽과의 협상은 순탄치 않았다. 회사 경영진은 미 국방부에 자사의 기술이 자동matic 설정이나 미국 내 개인 감시에 사용되는 것을 원하지 않는다고 밝혔다.

클로드 로봇이 이미 일부 국가 안보 임무에 투입되고 있음에도 불구하고, 회사 경영진은 반발하고 있습니다. 대변인은 성명을 통해 다음과 같이 밝혔습니다

"앤트로픽은 미국의 인공지능 분야 선도적 지위를 보호하고, 미군이 최첨단 인공지능 기능을 활용할 수 있도록 지원함으로써 미국 정부가 해외 위협에 효과적으로 대응할 수 있도록 돕는 데 전념하고 있습니다."

그들은 클로드라는 이름이 이미 사용 중이며, 회사는 현재 국방부로 불리는 기관과 긴밀히 협력하고 있다고 말했습니다. 도널드 트럼프dent 최근 국방부에 해당 이름을 채택하도록 지시했지만, 의회의 승인이 아직 필요합니다.

이런 상황이 벌어지는 가운데, 해당 기업들의 연구원들이 잇따라 사직하고 있습니다. 앤트로픽의 최고 안전장치 연구원 중 한 명은 "세상이 위험에 처해 있다"며 사임했습니다. 오픈AI의 한 연구원 역시 "이 기술은 우리가 이해하거나 예방할 도구조차 없는 방식으로 사용자를 조종할 가능성이 있다"며 회사를 떠났습니다

떠나는 사람들 중 일부는 조용히 떠나지 않고 있습니다. 그들은 상황이 너무 빠르게 진행되고 있으며 위험성이 무시되고 있다고 경고하고 있습니다. 오픈AI에서 2년간 근무했던 조이 히치그는 이번 주에 사임했습니다.

그녀는 한 에세이에서 회사가 광고를 도입하려는 방식에 대해 "깊은 우려"를 표명했습니다. 또한 ChatGPT가 사람들의 개인 데이터, 예를 들어 "건강에 대한 두려움, 관계 문제, 신과 사후 세계에 대한 믿음" 등을 저장한다고 지적했습니다

그녀는 사람들이 챗봇을 신뢰하고 숨겨진 의도가 없다고 생각하기 때문에 이것이 큰 문제라고 말했다.

거의 같은 시기에 IT 전문 사이트 플랫폼머(Platformer)는 오픈아이(OpenAI)가 사명 정렬 팀을 해체했다고 보도했습니다. 이 팀은 2024년에 설립되어 인류 전체에 도움이 되는 AI를 개발한다는 회사의 목표가 실제로 실현되도록 하는 역할을 맡았습니다.

암호화폐 분야의 최고 전문가들이 이미 저희 뉴스레터를 구독하고 있습니다. 함께하고 싶으신가요? 지금 바로 참여하세요 .