GPU를 넘어서는 엔비디아의 야망, 젠슨 황의 CPU 대전략에 숨겨진 비밀은 무엇인가?

TradingKey - 엔비디아( NVDA)가 다시 한번 시장 예상을 뛰어넘는 실적으로 월가를 놀라게 했다. 회계연도 기준 1분기인 지난 1월 종료 분기 매출은 전년 동기 대비 73% 급증한 681억 달러를 기록하며 시장 컨센서스인 660억 달러를 크게 웃돌았다. 이 중 데이터 센터 매출은 전년 대비 75% 성장했으며, 매출총이익률은 75%라는 경이로운 수치를 기록해 AI 연산 시장 내 가격 결정력이 견고함을 입증했다.

전 세계 AI 프로세서 시장의 약 90%를 점유하고 있는 GPU 지배적 사업자로서 엔비디아의 야심은 분명 여기에 그치지 않는다. 엔비디아는 AI 및 소비자용 CPU 시장으로의 확장을 가속화하며 GPU 분야에서의 성공을 재현하고자 하고 있다.

엔비디아의 선제적 시장 공략

2025년 말부터 글로벌 CPU 시장에 대한 관심이 급증했다. 인텔( INTC)과 AMD( AMD)는 수급 불균형이 나타나기 시작하며 서버용 CPU 물량이 매진되고 리드 타임이 6개월까지 늘어났다. 업계 관계자들은 일반적으로 이를 AI 시대에 CPU의 가치가 귀환한 것으로 보고 있다.

과거 AI 연산에서는 병렬 처리 능력 덕분에 GPU가 절대적인 우위를 점했고, CPU는 기본적인 범용 작업만 수행했다. 하지만 생성형 AI와 멀티모달 모델이 확산되면서 AI 연산은 '학습 중심'에서 '학습과 추론의 병행'으로 전환되고 있다. 특히 AI 에이전트 시대로 접어들며 작업 스케줄링과 도구 호출을 위한 CPU 의존도가 크게 높아졌다.

거대 모델의 사전 학습 단계에서 CPU는 데이터 저장, 샤딩, 인덱싱을 담당하며 GPU의 핵심 연산을 지원한다. 멀티모달 추론 시나리오에서는 CPU가 이미지 및 비디오 디코딩을 처리하여 GPU의 연산 부담을 완화해 준다.

향후 AI가 에지 및 단말 기기로 확산됨에 따라 단일 칩으로는 모든 시나리오의 요구사항을 충족할 수 없게 된다. 이에 따라 GPU와 CPU를 조율하는 풀스택 이기종 솔루션이 표준으로 자리 잡을 전망이다.

이러한 흐름을 파악한 엔비디아는 이미 2023년에 자체 개발한 데이터 센터용 CPU 제품을 출시했다. 보도에 따르면 젠슨 황 엔비디아 CEO는 실적 발표 컨퍼런스 콜에서 AI 기업들이 모델 학습에서 배포 단계로 이동함에 따라 엔비디아가 CPU에 다시 집중할 것이라고 밝혔다. 그는 자사의 독자적인 CPU가 매우 경쟁력이 있으며, 향후 엔비디아를 세계 주요 CPU 제조업체로 만들 잠재력이 있다고 언급했다.

현재 엔비디아는 AI 시장에 여러 ARM 기반 프로세서를 선보였으며, 소비자 시장을 겨냥한 N1X 제품의 출시도 앞두고 있다.

엔비디아 CPU 자신감의 근간, 풀스택 생태계

엔비디아 CPU의 자신감은 뿌리 깊은 풀스택 생태계 역량에서 비롯된다. AI 추론 시대에는 CPU의 분기 로직 처리 장점이 극대화된다. 과거 시장에는 '엔비디아 GPU + AMD CPU'의 혼합 솔루션이 등장하기도 했으나, 엔비디아는 독자적인 NVLink 고속 인터커넥트 기술을 통해 CPU와 GPU 간의 깊은 시너지를 구현하며 단일 CPU가 제공하는 이점을 훨씬 상회하는 시스템 수준의 성능 향상을 이뤄냈다.

무엇보다 엔비디아는 전 세계 AI 개발 프레임워크와 모델의 대다수가 구축된 CUDA 생태계를 보유하고 있다. 이러한 생태계의 '락인 효과'로 인해 고객들이 다른 플랫폼으로 이전하기 어렵다. 현재 엔비디아의 네트워킹 매출은 전체 데이터 센터 매출의 약 15%를 차지하며 전년 대비 162%의 성장률을 기록해 풀스택 컴퓨팅 시스템의 경쟁력을 더욱 공고히 하고 있다.

메타( META)와 엔비디아가 지난주 체결한 다년 계약은 엔비디아 CPU 상용화의 중대한 이정표가 되었다. 메타는 수백만 개의 블랙웰 및 루빈 GPU를 구매할 뿐만 아니라, 엔비디아의 그레이스 CPU를 단독 서버 칩으로 채택할 예정이다. 이는 해당 CPU 모델의 첫 대규모 도입이며, CPU 분야에서 엔비디아의 기술력을 입증하는 계기가 되었다.

엔비디아의 장기주의

많은 이들이 엔비디아의 성공을 'AI 열풍에 올라탄 결과'로 평가하지만, 사실 엔비디아의 시장 준비는 20여 년 전부터 시작되었다.

1990년대 지포스 시리즈를 통해 PC 게임용 하드웨어 시장에서 우위를 점한 엔비디아는 GPU 연구 개발에 있어 핵심 기술을 축적해 왔다. 2006년 출시된 CUDA 병렬 컴퓨팅 아키텍처는 GPU를 단순 게임 렌더링 도구에서 범용 컴퓨팅 칩으로 변모시키며 AI 시대의 폭발적 성장을 위한 기틀을 마련했다.

현재 엔비디아의 CPU 분야 행보는 이러한 장기 전략의 연장선에 있다. GPU 사업에서 축적한 기술 및 생태계 우위를 활용하여 엔비디아는 GPU와 CPU가 협업하는 풀스택 컴퓨팅 시스템을 구축하고 있다. 이는 향후 10년 동안 엔비디아의 선두 자리를 유지하는 핵심 진입 장벽이 될 것으로 보인다.