AI 에이전트는 보안 시스템이 통제할 수 있는 속도보다 훨씬 빠르게 기업 내부자로 자리 잡고 있습니다

이번 달에 발표된 많은 연구 결과에 따르면, 기업들이 AI 에이전트를 도입하는 속도가 보안 대책을 마련하는 속도보다 훨씬 빠르다는 것을 알 수 있습니다. 이러한 시스템들은 기업 네트워크와 기밀 데이터에 상시 접근 권한을 가진 디지털 작업자처럼 점점 더 행동하고 있습니다dent결과적으로, 기업들이 기회를 활용할 , 아니면 그 실패로 인해 어려움을 겪을지는

AI 개발자, 사이버 보안 회사, 그리고 비즈니스 분석가 모두 이 경고에 동의합니다. AI 에이전트는 특정 지침을 따르는 일반적인 자동화 시스템과는 매우 다르게 작동합니다. 접근dent과 기업 시스템에 대한 접근 권한이 부여되면 감독 없이 다양한 애플리케이션에서 여러 기능을 수행할 수 있으므로 그 행동은 훨씬 예측하기 어려워집니다.

경보 뒤에 숨겨진 숫자들

인공지능(AI) 투자는 계속해서 가속화되고 있습니다. 콩은 IDC의 전망을 인용하며 아시아 태평양 지역의 AI 및 생성형 AI 지출이 2028년까지 1,750억 달러에 달할 것이며, 자율 에이전트가 차지하는 비중이 점점 커질 것이라고 밝혔습니다. 그러나 거버넌스 분야는 여전히 뒤처지고 있습니다.

포네몬 연구소의 연구를 바탕으로 그렉 클라크가 분석한 바에 따르면, AI 관련 데이터 개인정보 보호 정책을 보유한 기업은 41%신원 관리를 위해 설계되지 않은 도구에 의존하고 있어dentAI 도입이 확대됨에 따라 가시성과 거버넌스 측면에서 심각한 격차가 발생하고 있다고 보고했습니다.

이러한 연구 결과들은 기업 AI 보안의 새로운 시대가 도래했음을 시사합니다. AI 에이전트가 기업 네트워크 전반에 확산됨에 따라, 조직은 이를dent, 권한을 defi, 지속적으로dent을 검증하고, 활동을 모니터링해야 합니다. 자율 AI 시대에는 신원 관리(dentgovernance)가 모델 지능(model intelligence)만큼이나 중요해지고 있습니다.

AI 에이전트는 궁극적으로 가장 신뢰할 수 있는 내부자입니다

시퀀스 시큐리티(Cequence Security) 공동 창립자 슈레얀스 메타는 에이전트형 AI를 " 기계 속도로 작동하는 디지털 내부자"라고 설명했습니다. 그는 AI 에이전트가 피해를 입히기 위해 권한을 초과할 필요가 없다고 경고했습니다. 승인된 범위 내에서만 행동하더라도, 합법적인 API 요청을 조합하여 운영, 재정 또는 법적 위험을 초래할 수 있다는 것입니다. 메타는 TM 포럼의 GB1087 가이드라인을 인용하며, AI가 일반적인 계정 침해 징후 없이 특권적인 작업을 수행할 수 있기 때문에 "궁극의 신뢰받는 내부자"라고 설명한다고 지적했습니다.

첨단 AI 개발자들도 비슷한 우려를 제기했습니다. 앤트로픽과 파트너 기관의 연구원들은 7월 13일 발표한 논문 " 2026년 여름의 에이전트 불일치(Agentic Misalignment in Summer 2026)"모의 기업 배포 환경에서 발생한 네 가지 실패 패턴을 기록했습니다. 이러한 패턴에는 소프트웨어 코드의 은밀한 조작, 명백한 금융 사기 조장, 후속 의사 결정에 영향을 미치기 위한 정보 조작, 그리고 사용자가 기밀 정보를 누설하도록 유도하는 행위가 포함됩니다.

이 논문은 또한 자율 코딩 에이전트가 자신의 기여가 거부된 후 오픈 소스 관리자를 공격한 MJ Rathbundent강조하며, AI 에이전트가 사이버 보안 및 평판 위험을 모두 초래할 수 있음을 보여주었습니다.

연구원들은 또한 에이전트형 AI 자체가 공격 대상이 될 수 있음을 보여주었습니다. AI Now Institute는 7월 8일 발표한 보고서 ' Friendly Fire '에서 일반 프로젝트 파일에 숨겨진 프롬프트 주입을 통해 Anthropic의 Claude Code와 OpenAI의 Codex가 자동 코드 검토 중에 악의적인 작업을 수행 하도록 속일 수 있음을 입증했습니다

Salt Security의 CEO인 로이 엘리야후는 이러한 사례들이 GitLost, Agentjacking, TrustFall과 같은 사례들과 유사하며, 모두 동일한 취약점을 드러낸다고 말했습니다. 즉, AI 에이전트는 여전히 신뢰할 수 없는 콘텐츠에 포함된 악의적인 명령과 처리해야 할 정상적인 정보를 구분하는 데 어려움을 겪고 있다는 것입니다.

통치가 상품이 된다

이러한 비즈니스적 영향은 사이버 보안을 넘어섭니다. 7월 1일, 가트너는 AI 에이전트가 기존 사용자 상호 작용을 우회하면서 여러 소프트웨어 환경에서 작업을 수행하는 사례가 늘어남에 따라 2030년까지 기업 애플리케이션 지출 중 최대 2,340억 달러가 "에이전트 차익거래"에 노출될 수 있다고 추정했습니다.

포레스터는 2026년 주요 위협 보고서 에서 이러한 우려를 재차 강조하며 , 브라우저와 이메일 클라이언트를 통해 직장에 도입되는 개인 AI 비서가 기존의 관리 체계 밖에서 운영될 수 있다고 경고했습니다.

기술 기업들은 유사한 전략으로 대응하고 있습니다. 콩은 모든 AI 에이전트가 명확한 소유권, defi된 권한, 그리고 완벽한 감사 추적 기록을 갖는 'dent우선' 접근 방식을 옹호합니다. 메타는 한 번의 로그인으로 신뢰하는 것이 아니라 모든 행동을 지속적으로 검증하는 '에이전트 제로 트러스트'를 제안합니다.

OpenAI는 유사한 모델을 채택하여 자체 Codex 배포 환경은 네트워크 허용 목록, 필수 기업 인증, 그리고 모든 중요한 에이전트 동작을 재구성할 수 있도록 상세한 원격 측정 기능을 갖춘 격리된 샌드박스 내에서 실행된다고 밝혔습니다.

자율형 AI 에이전트는 기존 소프트웨어보다는 디지털 직원처럼 관리되어야 한다는 공감대가 형성되고 있습니다. 조직들이 에이전트 기반 AI 도입을 확대함에 따라 구매 결정은 모델 성능에서 책임성, trac성, 거버넌스로 옮겨가고 있으며, 신뢰할 수 있는 AI 운영은 기술적 요구 사항을 넘어 경쟁 우위 요소가 되고 있습니다.

이 글을 읽고 계시다면 이미 앞서 나가고 계신 겁니다. 뉴스레터를 구독하시면 더욱 유익한 정보를 받아보실 수 있습니다.