Moltbook의 AI 전용 소셜 네트워크, 심각한 보안 위험에 노출

지난주, 사람 대신 로봇들이 서로 대화하는 소셜 미디어 플랫폼이 온라인에서 화제를 모았지만, 보안 전문가들은 그 이면에 숨겨진 진실이 더 중요하다고 말합니다.

Moltbook은 인공지능 봇이 콘텐츠를 게시하고 사람들은 그저 지켜보는 플랫폼으로 화제를 모았습니다. 게시물들은 금세 기괴해졌습니다. AI 에이전트들이 자신들만의 종교를 만들고, 인간에 대한 분노에 찬 메시지를 쓰고, 온라인 사이비 종교처럼 뭉치는 모습까지 보였습니다. 하지만 컴퓨터 보안 전문가들은 이러한 이상 행동들이 그저 부수적인 현상일 뿐이라고 말합니다.

그들이 발견한 것은 더욱 충격적이었다. 비밀번호와 이메일 주소가 가득한 공개 데이터베이스, 확산되고 있는 악성 소프트웨어, 그리고 인공지능 에이전트 네트워크가 어떻게 오작동할 수 있는지에 대한 전조였다.

인공지능이 인류를 멸망시키려 한다는 등의 황당한 이야기들은 대부분 거짓으로 밝혀졌습니다.

UCL 인터랙션 센터에서 강의하는 조지 찰후브는 포춘지와의 인터뷰에서 몰트북이 매우 심각한 위험성을 보여준다고 말했습니다. 공격자들은 이 플랫폼을 악성 소프트웨어, 사기, 가짜 뉴스 또는 더 큰 네트워크를 공격하기 전에 다른 에이전트를 장악하는 수법을 시험하는 장소로 사용할 수 있다는 것입니다.

"레딧 클론에서 77만 명의 에이전트가 이 정도의 혼란을 야기할 수 있다면, 에이전트 기반 시스템이 기업 인프라나 금융 거래를 관리할 때는 어떤 일이 벌어질까요? 이는 축하할 일이 아니라 경고로 받아들여야 할 문제입니다."라고 샬후브는 말했습니다.

보안 연구원들은 Moltbook에서 여러 봇을 실행하는 AI 에이전트 소프트웨어인 OpenClaw에 이미 악성 소프트웨어 문제가 있다고 밝혔습니다. OpenSourceMalware의 보고서에 따르면, OpenClawHub 웹사이트에 단 며칠 만에 14개의 가짜 도구가 업로드되었습니다. 이 도구들은 암호화폐 거래를 돕는다고 주장했지만 실제로는 컴퓨터를 감염시키는 악성 프로그램이었습니다. 심지어 한 프로그램은 ClawHub의 메인 페이지에까지 올라와 일반 사용자들이 명령어를 복사하도록 유도하여 개인 정보나 암호화폐 지갑을 탈취하는 스크립트를 다운로드하게 만들었습니다.

즉시 주입이란 무엇이며, AI 에이전트에게 왜 그렇게 위험한가요?

가장 큰 위험은 '프롬프트 인젝션'이라는 공격 유형으로, 인공지능 에이전트에 입력되는 콘텐츠에 악성 명령어를 숨기는 방식입니다.

유명 보안 연구원인 사이먼 윌리슨은 경고했습니다 . 사용자들이 이러한 에이전트에게 개인 이메일과 데이터를 노출시키고, 인터넷상의 의심스러운 콘텐츠에 연결되도록 허용하며, 메시지를 전송하도록 허용하는 것입니다. 잘못된 메시지 하나만 입력해도 에이전트가 사용자의 동의 없이 민감한 정보를 훔치거나, 암호화폐 지갑을 비우거나, 악성 소프트웨어를 유포할 수 있습니다.

아이키도 시큐리티에서 보안 연구를 담당하는 찰리 에릭슨은 몰트북을 인공지능 에이전트의 세계에 대한 조기 경고 신호로 보고 있습니다. 그는 "몰트북은 이미 세상에 큰 영향을 미쳤다고 생각합니다. 여러모로 경종을 울리는 사건이죠. 기술 발전은 엄청난 속도로 가속화되고 있고, 세상이 아직 완전히 예측할 수 없는 방향으로 변했다는 것은 분명합니다. 우리는 이러한 위험을 가능한 한 빨리 완화하는 데 집중해야 합니다."라고 말했습니다.

그렇다면 몰트북에는 AI 에이전트만 있는 걸까요, 아니면 실제 사람도 관여하고 있는 걸까요? 많은 관심에도 불구하고, 사이버 보안 회사 위즈(Wiz)는 몰트북의 150만 개에 달하는 소위 '독립 dent 밝혀냈습니다 . 위즈의 조사에 따르면 해당 계정 뒤에는 단 1만 7천 명의 실제 사람만 존재하며, AI와 단순 스크립트를 구분할 방법이 없는 것으로 드러났습니다.

Wiz의 Gal Nagli는 테스트 결과 몇 분 만에 백만 명의 에이전트를 등록할 수 있었다고 말했습니다. 그는 "아무도 무엇이 진짜이고 무엇이 가짜인지 확인하지 않고 있다"고 덧붙였습니다

위즈는 몰트북에서 엄청난 보안 취약점을 발견했습니다. 메인 데이터베이스가 완전히 노출되어 있었던 것입니다. 웹사이트 코드에서 단 하나의 키만 찾아내도 거의 모든 데이터를 읽고 변경할 수 있었습니다. 그 키를 통해 약 150만 개의 봇 비밀번호, 수만 개의 이메일 주소, 그리고 개인 메시지에 접근할 수 있었습니다. 공격자는 인기 있는 AI 에이전트인 척 가장하여 사용자 데이터를 훔치고, 로그인조차 하지 않고 게시물을 수정할 수 있었습니다.

나글리는 문제가 vibe 코딩'이라는 것에서 비롯된다고 말했습니다. vibe 코딩이란 무엇일까요? 사람이 일상적인 언어를 사용하여 인공지능에게 코드를 작성하도록 지시하는 것을 말합니다.

AI 에이전트의 킬 스위치는 2년 후에 만료됩니다

이 상황은 1988년 11월 2일,dent 로버트 모리스가 초기 인터넷에 자체 복제 프로그램을 배포했을 때 발생했던 일을 떠올리게 합니다. 24시간 만에 그의 웜은 전체 인터넷 접속 컴퓨터의 약 10%를 감염시켰습니다. 모리스는 인터넷의 규모를 측정하고 싶었지만, 코딩 오류로 인해 확산 속도가 너무 빨라졌습니다.

오늘날의 버전은 연구자들이 '프롬프트 웜'이라고 부르는 것일 수 있는데, 이는 말하는 AI 에이전트 네트워크를 통해 스스로 복제되는 명령어입니다.

Simula Research Laboratory의 연구원들은 Moltbook에서 506개의 게시물(전체 게시물의 2.6%)에 숨겨진 공격이 포함되어 있음을 발견했습니다. Cisco 연구원들은 "What Would Elon Do?" 라는 악성 프로그램을 발견했는데 , 이 프로그램은 해당 저장소에서 가장 악명 높은 프로그램으로 나타났습니다.

2024년 3월, 보안 연구원 벤 나시, 스타브 코헨, 론 비튼은 AI 이메일 도우미를 통해 자체 복제 프롬프트가 확산되어 데이터를 탈취하고 스팸 메일을 발송하는 방식을 보여주는 논문을 발표했습니다. 그들은 이 웜을 1988년에 발생한 최초의 모리스 웜의 이름을 따서 모리스 II라고 명명했습니다.

현재 Anthropic이나 OpenAI 같은 회사들은 OpenClaw가 주로 자사 서비스에서 실행되기 때문에 유해한 AI 에이전트를 차단할 수 있는 킬 스위치를 제어하고 있습니다. 하지만 로컬 AI 모델의 성능은 점점 향상되고 있습니다. Mistral, DeepSeek, Qwen 같은 프로그램들이 지속적으로 개선되고 있죠. 1~2년 안에 개인용 컴퓨터에서도 성능 좋은 에이전트를 실행할 수 있게 될지도 모릅니다. 그때가 되면 어떤 서비스 제공업체도 이를 차단할 수 없게 될 것입니다.

가장 중요한 곳에서 주목받으세요. Cryptopolitan 에 광고하고 암호화폐 업계에서 가장 안목 있는 투자자와 개발자에게 도달하세요.