NVIDIA의 새로운 칩은 비용을 35배 절감할 것으로 예상되며, 코딩 도구는 AI 관련 검색량의 절반을 차지하고 있습니다

NVIDIA는 최근 최신 GB300 NVL72 시스템을 출시했습니다. 이 시스템은 기존 Hopper 플랫폼에 비해 메가와트당 50배 더 많은 작업을 처리할 수 있습니다. 즉, 정보 하나를 처리하는 데 드는 비용이 35배 절감된다는 의미입니다.

Signal65는 GB200 NVL72에 대한 별도의 테스트를 진행한 결과, 와트당 처리하는 정보량이 10배 이상 증가하여 비용을 10분의 1로 줄일 수 있음을 발견했습니다.

개선은 계속되고 있습니다. NVIDIA의 TensorRT-LLM 라이브러리 업그레이드만으로도 GB200은 즉각적인 응답이 필요한 작업에서 불과 4개월 만에 성능이 5배 향상되었습니다. Dynamo, Mooncake , SGLang 도구를 개발하는 팀들은 효율성을 더욱 높이기 위해 노력하고 있습니다.

이러한 AI 도구는 지연 시간이 발생하거나 충분한 맥락 정보를 기억하지 못하면 제대로 작동하지 않습니다. 기업은 이러한 도구가 단순한 데모가 아닌 실제 비즈니스 상황에서 작동하기를 기대합니다.

코드를 작성하고 디지털 도우미 역할을 하는 인공지능 도구는 이제 전체 AI 관련 검색의 거의 절반을 차지하며, 이는 1년 전 11%에서 크게 증가한 수치입니다.

이 수치는 OpenRouter의 추론 현황 보고서 , 이 분야가 얼마나 빠르게 변화하고 있는지를 보여줍니다.

이처럼 갑작스러운 증가세로 인해 기업들은 이에 발맞춰 나갈 수 있는 하드웨어를 개발하기 위해 분주히 움직이고 있습니다. 이러한 AI 비서들은 즉각적으로 반응해야 할 뿐만 아니라 전체 소프트웨어 프로젝트의 맥락까지 기억해야 하므로, 상당한 컴퓨팅 성능이 요구됩니다.

관련 자금 규모는 엄청납니다. AI 에이전트 시장은 2024년에 49억 2천만 달러 규모였으며, 2025년에는 60억 1천 6백만 달러, 그리고 2035년에는 449억 7천만 달러로 급증할 것으로 예상됩니다. 이는 향후 10년간 매년 22.28%씩 성장한다는 의미입니다. 은행, 병원, 상점, 공장 등이 초기 도입처가 될 것입니다.

기업들은 비용을 절감하고 업무 효율을 높이기 위해 이러한 에이전트를 고객 관리 시스템, 계획 도구 및 보안 설정에 통합하고 있습니다. 선택 사항으로 시작했던 기술이 이제 기본 인프라로 자리 잡고 있습니다.

Cryptopolitan 의 보도에 따르면 , 알리바바는 출시했으며 , 이전보다 처리 비용이 60% 낮아졌다고 주장합니다. 이 모델은 스마트폰과 컴퓨터 화면을 인식하고 다양한 작업을 수행할 수 있습니다. 바이트댄스의 두바오(Doubao) 앱과 정면 승부를 겨냥하고 있으며, 딥시크(DeepSeek) 업데이트도 예정되어 있습니다.

OpenAI는 15일 피터 스타인버거를 영입했습니다. 그는 OpenClaw를 인물입니다. CEO 샘 알트만은 스타인버거가 차세대 개인 에이전트 개발을 이끌 것이며, 유용한 작업을 수행할 수 있는 스마트 비서에 대한 훌륭한 아이디어를 가진 천재라고 칭찬했습니다.

누구도 해결할 수 없는 인재 위기

기업 경영진의 94%가 AI 관련 기술 인력이 부족하다고 응답했습니다. 2028년에도 44%는 여전히 20~40%의 인력 부족 현상이 지속될 것으로 예상합니다. 워커라(Workera) 는 이러한 인력 부족으로 인해 제품 출시 지연, 품질 문제, 매출 손실 등이 발생하여 2026년 세계 경제에 5조 5천억 달러의 손실이 초래될 수 있다고 경고합니다.

현재 전 세계적으로 AI 인재 수요가 공급을 3.2배나 앞지르고 있습니다. AI 관련 직종은 일반 소프트웨어 직종보다 급여가 67% 더 높습니다. 하지만 사무직 근로자의 85%는 스스로 시간을 내어 AI 관련 지식을 습득하고 있으며, 83%는 정식 교육을 받기보다는 독학을 주로 한다고 답했습니다.

기업들이 전문 벤더로부터 AI 도구를 구매할 경우 성공률은 67%에 달합니다. 반면 자체 개발은 성공률이 3분의 1 수준에 그칩니다.

세일즈포스는 2025년 초에 에이전트 수가 119% 증가했고, 해당 제품들의 반복 매출이 5억 달러를 돌파했습니다. 또한 3개월 만에 6,000개의 기업 고객을 추가했습니다.

기업들은 솔루션을 직접 개발하기보다는 구매할 가능성이 높습니다. 이는 시장이 실제로 효과적인 솔루션을 제공할 수 있는 몇몇 대형 업체에 집중될 것임을 시사합니다.