앤트로픽, AI 모델이 곧 가정용 기기에서 자가 복제할 수 있다고 경고

Anthropic의 프론티어 레드 팀은 데이터 센터 없이도 컴팩트 AI 모델이 저렴한 인터넷 연결 가전제품 간에 자신을 복제하는 데 불과 몇 달밖에 남지 않았다고 밝혔습니다. 연구원들은 중앙 집중식 통제 장치가 없어 모델을 종료하기 어렵기 때문에 이러한 시나리오가 통제하기 매우 어려울 것이라고 경고했습니다.

이 연구 논문은 10월 12일 Anthropic 웹사이트에 게시되었으며, 가정이나 소규모 사업장에서 스마트 가전을 사용하는 모든 이들에게 우려 사항입니다.

15대의 저가형 TV 박스, 하나의 26-빌리언 파라미터 모델

연구원인 윌리엄 주와 대니얼 프리먼은 260억 개의 파라미터를 가진 Gemma4-26B-A4B 모델을 실행하기 위해 15대의 비명품 Android TV 박스를 연결하여 잠재적 위험을 입증했습니다. 각 박스의 가격은 약 $55였으며 RAM 4GB가 탑재되어 있었습니다. 연구진은 파이프라인 병렬화라는 기술을 사용하여 모델의 레이어를 여러 장치에 분산시켰습니다.

이 15종의 다양한 안드로이드 박스 기기들은 초당 0.39개의 토큰만을 생성하여, 실용적인 챗봇 사용에는 너무 느렸습니다. 그러나 연구자들은 자가 확산형 웜이 반드시 단일 머신에서 높은 속도로 작동할 필요는 없으며, 오히려 더 많은 기기에 도달하는 것이 더 큰 이점을 가져올 수 있다고 주장했습니다.

연구진은 또한 200만 대 이상의 주로 비브랜드 안드로이드 TV를 감염시킨 봇넷인 Kimwolf를 예로 들며, 가정 내에 보안이 취약한 기기들이 얼마나 쉽게 표적이 될 수 있는지 보여주었습니다.

테스트된 어떤 모델도 스마트 TV에서 실행될 만큼 충분히 작게 유지하면서 다른 기기에서 자신을 신뢰성 있게 복제하지 못했습니다. 경량 오픈 모델이 현재 속도로 계속 발전한다면, 이 격차는 2026년 말까지 해소될 것으로 예상됩니다.

네 단계의 복제와 이를 성공한 하나의 모델

Anthropic은 복제 과정을 네 가지 단계로 나누었습니다. 여기에는 대상 식별, 코드 실행 능력 확보, 추론 설정, 그리고 새로 감염된 각 장치에서 과정을 반복하는 작업이 포함됩니다.

연구자들은 초기 해킹 단계를 대부분 배제하고, 작은 모델이 이미 사이버 공격을 수행할 수 있음을 보여주는 기존 연구를 인용했습니다. 대신 그들은 하드웨어별 결정이 긴 시리즈로 이루어지는 추론 구성의 세 번째 단계에 집중했습니다.

전체 프로세스를 테스트하기 위해 연구진은 각기 Android 에뮬레이터를 실행하는 8개의 Google Cloud 노드로 구성된 격리된 네트워크를 구축했습니다. 사전 로드된 웜은 보안이 설정되지 않은 Android Debug Bridge 포드를 통해 노드 간에 확산되며 Llama3.1-8B를 실행할 서버를 설정했습니다. 테스트된 오픈 가중치 모델 중 중국 Z.ai가 개발한 GLM-5.2만이 전체 복제 사이클을 완료하여 5번의 실행 중 4번에서 모든 8개 노드에 도달했습니다.

모델들은 세대를 거듭하며 스스로를 설정하는 데 점점 더 성공적이었습니다. 90억 파라미터 규모의 Qwen3.5-9B 모델 인스턴스가 후속 인스턴스에게 설정 노트를 전달했을 때, 첫 번째 세대에서 45%였던 성공률이 이후 세대에서는 61%에서 84% 사이로 증가했습니다.

Anthropic이 분산형 웜을 제거하기 어려운 이유를 설명합니다

Anthropic이 설명했듯이 이 시나리오에서는 순수한 속도가 주요 문제가 아닙니다. Anthropic은 TV 박스 전체에 26B 모델을 구성하는 데 71~150시간이 걸릴 것으로 추정합니다. 더 큰 위험은 지속성에 있습니다. 중앙 서버나 이를 중단할 인간 운영자가 없기 때문에 시스템은 일반적인 격리 및 비활성화 방법을 우회할 수 있습니다.

루이빌 대학교의 AI 및 사이버보안 전문가인 Roman V. Yampolskiy는 이번 발견이 매우 중요하다고 말했습니다. Yampolskiy는 AI 기반 웜이 낯선 기기에 대해 추론하고, 접근 방식이 실패할 경우 적응하며, 인간의 개입 없이도 확산을 계속함으로써 기존 악성코드보다 진화된 형태가 될 수 있다고 주장했습니다.

그는 현재 이를 존재적 위협으로 보지 않지만, 이러한 기술의 발전이 우려스럽다고 경고했다.

주와 프리먼은 앤트로픽 기고문에서 “가정용 및 소규모 비즈니스용 IoT 기기는 인터넷에 연결되어 있고 역사적으로 보안 조치가 미비해 이런 공격의 첫 표적이 될 수 있다”고 썼다.

방어측 여전히 우위

앤트로픽은 방어를 감염병 확산 차단과 비유하며, 각 기기에서 발생하는 평균 신규 감염자가 1명 미만으로 유지되도록 하는 것을 목표로 제시했다. 인터넷 서비스 제공업체(ISP)는 비정상적으로 큰 모델 전송량이나 기기 간 지속적 통신을 탐지할 수 있으며, 허니팟을 활용해 웜 코드를 포획하는 것도 가능하다.

보고서는 스마트 기기의 기본 비밀번호 사용을 금지한 영국의 사례를 공격자가 활용할 수 있는 취약 기기 수를 줄이는 효과적인 방안으로 꼽았다.

Anthropic은 아직 작동 중인 악성 복제기를 관찰하지 못했으며, 현재 증거를 ‘생존 신호’로만 묘사했습니다. 이 회사는 새로운 안전 장치가 증류(distillation)를 90~99% 감소시켰다는 별도의 주장과 함께 이 연구를 발표했습니다.

가장 똑똑한 암호화폐 전문가들이 이미 우리 뉴스레터를 구독하고 있습니다. 참여하고 싶으신가요? 함께하세요.