구글은 자사의 AI 챗봇 제미니가 대규모 '정제 공격'에 직면하고 있다고 밝혔습니다

구글의 AI 챗봇 제미니가 대규모 정보 탈취 공격의 표적이 되었습니다. 공격자들은 제미니의 작동 방식을 복제하기 위해 시스템에 끊임없이 질문을 쏟아냈습니다. 한 공격팀만 해도 챗봇에 10만 건이 넘는 질문을 보내 제미니를 똑똑하게 만드는 비밀 패턴을 빼내려 했습니다.

목요일에 발표된 자료에 따르면, 이른바 "기술 분석 공격"이 악화되고 있다고 합니다. 악의적인 공격자들은 제미니의 답변에 담긴 논리를 파악하기 위해 끊임없이 질문을 쏟아냅니다. 그들의 목표는 간단합니다. 구글의 기술을 훔쳐 수십억 달러를 투자하지 않고도 자신만의 AI 시스템을 구축하거나 개선하는 것입니다.

구글은 대부분의 공격자가 실제적인 노력을 들이지 않고 이득을 취하려는 개인 기업이나 연구원이라고 보고 있습니다. 구글 보고서 . 구글 위협 인텔리전스 그룹을 이끄는 존 헐퀴스트는 맞춤형 AI 도구를 사용하는 소규모 기업들도 곧 비슷한 공격에 직면할 가능성이 높다고 말했습니다.

기술 기업들은 인공지능 챗봇 개발에 수십억 달러를 쏟아부었습니다. 이러한 시스템의 내부 작동 방식은 마치 보물처럼 소중하게 다뤄집니다. 이러한 공격을 막기 위한 방어 체계가 마련되어 있음에도 불구하고, 인터넷에 접속할 수 있는 사람이라면 누구나 주요 인공지능 시스템과 대화할 수 있기 때문에 주요 AI 시스템은 여전히 손쉬운 공격 대상입니다.

작년에 오픈아이디(OpenAI)는 중국 기업 딥시크(DeepSeek)가 증류 기법을 이용해 모델을 개선했다고 주장하며 이 회사를 지목했습니다. Cryptopolitan 은 1월 30일, 오픈아이디가 딥시크가 증류 기법을 이용해 자사의 AI 모델을 도용했다고 비난한 후 이탈리아와 아일랜드가 딥시크의 사용을 금지했다고 보도했습니다. 이 기법은 기업들이 값비싼 기술을 훨씬 저렴한 비용으로 복제할 수 있도록 해줍니다.

공격자들은 왜 이런 짓을 하는 걸까요?

경제적 부담은 엄청납니다. 최첨단 AI 모델을 구축하는 데는 수억 달러, 심지어 수십억 달러가 소요됩니다. 업계 보고서에 따르면 DeepSeek은 증류 기법을 사용하여 R1 모델을 약 600만 달러에 개발했고, ChatGPT-5 개발에는 20억 달러 이상이 투자되었다고 합니다. 모델의 논리를 훔치면 이러한 막대한 투자를 거의 공짜로 줄일 수 있습니다.

구글에 따르면 제미니에 대한 공격의 상당수는 정보를 "추론"하거나 처리하는 데 사용되는 알고리즘을 표적으로 삼았습니다. 100년 치 거래 전략이나 고객 정보와 같은 민감한 데이터를 기반으로 자체 AI 시스템을 학습시키는 기업들도 이제 동일한 위협에 직면해 있습니다.

"당신의 LLM(법학 석사) 과정이 100년 동안 축적된 거래 방식에 대한 비밀스러운 사고방식을 바탕으로 훈련되었다고 가정해 봅시다. 이론적으로는 그중 일부를 추출할 수 있을 겁니다."라고 헐트퀴스트는 설명했다.

국가 차원의 해커들이 사냥에 합류했습니다

이 문제는 돈에 눈먼 기업들만의 문제가 아닙니다. 2024년 3월 미국 제재 대상에 오른 중국 정부 해킹 그룹인 APT31은 작년 말 제미니를 이용해 미국 기업들을 대상으로 사이버 공격을

해당 그룹은 제미니(Gemini)와 150개 이상의 보안 프로그램을 실행할 수 있는 오픈 소스 해킹 도구인 헥스트라이크(Hexstrike)를 결합했습니다. 구글 보고서에 따르면, 이들은 원격 코드 실행 취약점, 웹 보안 우회 방법, SQL 인젝션 공격 등을 분석했으며, 이 모든 공격은 특정 미국 표적을 겨냥한 것이었습니다.

Cryptopolitan 이전에도 유사한 AI 보안 문제를 다루며 경고한 바 있습니다 . APT31 사건은 이러한 경고가 정확했음을 보여줍니다.

헐트퀴스트는 두 가지 주요 우려 사항을 지적했습니다. 첫째는 적들이 최소한의 인적 개입만으로 전체 침입 과정을 운영하는 것이고, 둘째는 공격 도구 개발을 자동화하는 것입니다. 그는 "이 두 가지 방식은 적들이 상당한 이점을 얻고 최소한의 인적 개입으로 침입 과정을 진행할 수 있는 방법입니다."라고 말했습니다.

소프트웨어 취약점을 발견하고 수정 패치를 배포하는 데 걸리는 시간 간격, 즉matic격차가 급격히 커질 수 있습니다. 일반적으로 기업은 방어 체계를 구축하는 데 몇 주가 걸립니다. AI 에이전트가 취약점을 자동matic찾아 테스트하기 때문에 공격자는 훨씬 더 빠르게 움직일 수 있습니다.

헐트퀴스트는 더 레지스터와의 인터뷰에서 "우리는 인공지능의 장점을 활용하고 인간의 개입을 점차 줄여 기계처럼 빠른 속도로 대응해야 할 것"이라고 말했다.

금전적 손실은 엄청납니다. IBM의 2024년 데이터 유출 보고서에 따르면 지적 재산권 도용으로 인해 기업은 기록당 평균 173달러의 손실을 입고 있으며, 지적 재산권 관련 유출은 전년 대비 27% 증가했습니다. AI 모델 가중치는 이러한 암시장에서 가장 가치가 높은 표적입니다. 도난당한 최첨단 모델 하나만 해도 암시장에서 수억 달러에 거래될 수 있습니다.

구글은 이러한 공격 캠페인과 관련된 계정을 차단했지만, 헐트퀴스트는 공격이 "전 세계에서" 계속되고 있다고 말했습니다. 인공지능이 더욱 강력해지고 더 많은 기업이 인공지능에 의존하게 됨에 따라 이러한 디지털 골드러시는 더욱 심화될 것으로 예상됩니다. 문제는 공격이 더 발생할지 여부가 아니라 방어자들이 이에 대응할 수 있을지 여부입니다.

멘토링과 매일 새로운 아이디어로 전략을 더욱 정교하게 다듬으세요 - 저희 트레이딩 프로그램