구글 코멘터리: 제미나이 3.8, 원가 우위 전략 실행

지난 수년간 대형 AI 모델 간 경쟁의 핵심 질문은 '누가 가장 강력한 모델을 구축할 수 있는가'였다.

하지만 이러한 경쟁 논리에 변화가 나타나고 있다.

그 이유는 모델 성능이 지속적으로 향상됨에 따라 '모델이 과제를 완료할 수 있는가'라는 임계값을 넘어서는 실제 과제가 늘어나고 있기 때문이다. 매우 복잡한 과학 연구, 코딩, 장기적 작업 수행 에이전트의 경우 모델 성능이 여전히 막대한 가치를 지닌다. 그러나 이보다 훨씬 더 수가 많은 저복잡도 과제의 경우, 모델 점수를 90점에서 95점으로 올리는 것은 비용을 1에서 0.3으로 줄이는 것보다 실제 가치가 훨씬 적을 수 있다.

6주 동안 이뤄진 플래시 모델에 대한 세 차례의 업데이트와 프로 모델을 둘러싼 일시적인 소강상태를 종합해 보면, 구글의 대형 모델 전략이 '저비용 우선순위화'로 점점 더 명확해지고 있음을 알 수 있다.

물론 3.8 모델이 실제로 3.7보다 다소 더 비싸다는 점을 알아챘을 수도 있다. 두 세대 모델의 API 단가는 동일하지만 평균 출력 토큰이 약 30% 증가하고 에이전트 작업의 호출 턴 수도 늘어났다. 아티피셜 아날리시스(Artificial Analysis)의 측정에 따르면 과제당 비용은 약 0.40달러에서 0.58달러로 약 45% 상승했다. 당사는 구글이 현재 저비용 경로를 따라 비용과 성능 사이의 경계를 탐색하고 있다고 보지만, 저비용 전략 자체는 여전히 유효하다.

한편 임원진의 발언 역시 이를 뒷받침한다. 올해 2분기 순다르 피차이 구글 CEO는 플래시 시리즈가 성능과 비용의 최적점에 위치해 있어 수요가 매우 강력하다고 밝혔다.

명백히 구글은 최우선 목표를 다음과 같이 전환하고 있다.

"가장 강력한 모델을 얼마나 더 강력하게 만들 수 있는가"에서

다음으로:

"과제 완료 비용을 얼마나 낮출 수 있는가"로.

이 두 가지 접근 방식 사이에는 큰 차이가 있다. 후자의 모델은 향후 대규모 AI 응용 프로그램의 경제성과 더 잘 부합한다. 결국 컴퓨팅 자원의 대부분은 극소수의 가장 어려운 문제에서 발생하는 것이 아니라 엄청난 양의 일반적인 요청에서 발생하기 때문이다.

1. 구글의 배포 우위는 방대한 사용자 기반을 가져오며, 대량의 요청 자체는 저비용의 가치를 증폭시킨다.

구글과 다른 대형 모델 기업 간의 근본적인 차이는 구글이 이미 사용자 기반을 확보하고 있다는 점이다.

올해 2분기 구글 검색 내 AI 모드의 월간 활성 사용자 수는 10억 명을 넘어섰으며, 8월 11일에는 제미나이 앱의 월간 활성 사용자 수가 10억 명을 초과했다. 더욱 큰 배포 우위는 구글 전체 제품 매트릭스에서 비롯된다. 제미나이는 현재 각각 10억 명 이상의 사용자 기반을 갖춘 13개 구글 제품에 통합되어 있으며, 이 중 5개 제품은 사용자가 30억 명을 넘는다.

개발자 측면에서도 대규모 확장이 이루어졌다. 매달 900만 명 이상의 개발자가 구글 모델을 사용하고 있으며, 구글의 자사 모델 API는 불과 한 분기 전 160억 개에서 증가해 현재 분당 약 220억 개의 토큰을 처리하고 있다.

따라서 구글이 직면한 경제적 문제는 처음부터 사용자를 확보해야 하는 AI 기업의 문제와는 다르다.

구글이 진정으로 해결해야 할 과제는 다음과 같다.

기존 수십억 명의 사용자에게 충분히 낮은 비용으로 AI를 제공하는 방법이다.

이 시점에서 작업 복잡도를 식별하는 것이 매우 중요해진다.

복잡도가 높은 작업의 경우 고객은 주로 성능을 구매한다. 과학 연구나 복잡한 에이전트 작업의 경우, 더 강력한 모델이 성공률을 크게 높일 수 있다면 작업당 수 달러를 더 지출하는 것은 충분히 용인될 수 있다.

하지만 구글이 일상적으로 접하는 요청은 주로 복잡도가 낮고 빈도가 높은 작업들이다.

예를 들어 일반적인 질의응답(Q&A)이나 단순한 에이전트의 경우, 두 모델 모두 문제를 정확히 해결할 수 있다면 모델 성능을 몇 퍼센트포인트 더 향상시키는 것은 사용자에게 매우 낮은 한계 가치만을 제공한다. 그러나 추론당 비용이 0.50달러에서 0.20달러로 낮아지면 수십억 명의 사용자와 지속적으로 증가하는 쿼리 빈도가 곱해져 대형언어모델(LLM) 기업에 엄청난 비용 차이를 발생시킨다.

따라서 배포 우위와 저비용 우위 사이에는 승수 효과가 존재한다.

구글의 사용자가 많을수록 추론당 비용 절감으로 창출되는 가치는 커지며, 비용이 낮아질수록 구글은 검색, 안드로이드, 워크스페이스, 유튜브 등 기존 제품에 AI를 더욱 깊이 이식하여 쿼리 규모를 지속적으로 확대할 수 있다.

구글에 있어 저비용 모델이 다른 LLM 기업보다 더 높은 전략적 가치를 가질 수 있는 이유가 바로 이 때문이다.

2. TPU의 저비용 우위는 복잡도가 낮은 시나리오에서 핵심 결정 요인이 될 것이다

복잡도가 높은 작업에서는 비용 차이가 일반적으로 결정적인 요인이 되지 않는다.

한 모델이 다른 모델이 수행하지 못하는 과학 연구, 코딩 또는 복잡한 에이전트 작업을 완수할 수 있다면 사용자는 주로 그 결과를 구매하므로 조금 더 비싼 모델이라도 이들의 선택을 바꾸지는 않는다.

하지만 복잡도가 낮은 작업의 결정 기준은 전혀 다르다.

다양한 모델이 특정 작업을 안정적으로 수행할 수 있게 되면, 모델 성능의 추가적 향상에 따른 한계 수익은 급격히 감소하고 작업 완료 비용이 핵심 경쟁 요인이 된다.

바로 이 부분에서 TPU(구글의 자체 개발 반도체)가 가치를 극대화할 수 있다.

구글은 반도체, 모델, 추론 인프라를 동시에 제어할 수 있다. 최신 TPU 8i 자체는 추론 워크로드에 특화되어 설계되었으며, 구글이 공개한 데이터에 따르면 이전 세대 TPU 대비 달러당 추론 성능이 80% 향상되었다.

실제 제품 측면에서 이러한 비용 절감은 이미 가시화되기 시작했다. 알파벳은 2분기 발표를 통해 AI 모드가 지속적으로 더 고급 모델과 기능을 도입하고 있음에도 불구하고, 소프트웨어와 하드웨어의 공동 최적화를 통해 AI 모드 답변당 비용을 제품 출시 이후 가장 낮은 수준으로 낮췄다고 밝혔다.

TPU는 구글에 핵심적인 역량을 부여한다.

모델 성능 경쟁 속에서도 비용 우위를 지속 유지할 수 있는 역량이다.

최상위 시나리오에서는 이러한 우위가 시장 점유율 확보 없이 수익성에 미미한 영향만 줄 수 있지만, 수십억 명의 사용자가 이용하는 복잡도가 낮고 빈도가 높은 시나리오에서는 비용 자체가 어떤 AI 기능을 대규모로 제공할 수 있는지, 그리고 최종적으로 누가 가장 많은 쿼리 양을 유지할 수 있는지를 결정한다.

구글의 전략이 실제로 성립하려면 두 가지 조건이 동시에 충족되어야 합니다.

프론티어 모델이 점차 동질화되는 한편, 구글 스스로도 프론티어 모델 그룹에 지속적으로 남아 있어야 합니다.

향후 2~3년에 걸쳐 이 두 가지 조건이 동시에 성립할 가능성은 점차 높아지고 있다고 판단합니다.

첫 번째 조건이 실현될 확률은 매우 높습니다. 지난 몇 년간의 모델 경쟁은 특정 기업이 독주를 오랫동안 유지하기가 점점 더 어려워지고 있다는 뚜렷한 특징을 보여왔습니다. 새로운 학습 방법, 추론 기술, 모델 아키텍처는 빠르게 확산하며, 특정 기업이 확실한 우위를 점하더라도 다른 최상위 플레이어들이 다음 모델 업데이트 과정에서 대부분 추격에 성공합니다.

따라서 궁극적으로 나타날 가능성이 가장 높은 구도는 소수의 기업이 장기적으로 동질적인 성능 범위 내에 머무르는 형태입니다.

그러나 저비용 전략을 추진하는 과정에서 구글이 이 그룹에 지속적으로 남을 확률이 낮아지는지 여부가 바로 이 전략의 가장 큰 리스크입니다. 지난 6주 동안 구글은 플래시(Flash) 시리즈를 3회 연속 업데이트한 반면, 프로(Pro) 시리즈는 6개월 반 동안 업데이트가 없었습니다. 연구개발(R&D) 자원과 제품 목표가 비용 효율성 쪽으로 계속 기울어진다면, 구글은 더 낮은 추론 비용을 얻는 대가로 프론티어 역량의 일부를 희생할 수도 있습니다.

이는 내재적 모순을 야기합니다. 구글의 저비용 전략은 자사 모델이 최상위에 남아 있을 때만 최대의 가치를 제공하지만, 저비용을 우선시하다 보면 해당 최상위 지위를 유지하는 역량이 약화될 수 있기 때문입니다.

현재로서는 이 문제에 대해 관망하는 태도를 취하고 있습니다. 선점자 우위가 부족한 산업에서는 무작정 쫓아가는 것보다 해당 분야가 병목 현상에 도달할 때까지 기다렸다가 전속력으로 추격하는 것이 더 나을 수 있음을 역사가 반복해서 보여주기 때문이며, 이것이 구글의 진짜 전략(playbook)일 가능성이 큽니다.

이 콘텐츠는 AI를 활용하여 번역되었으며, 명확성을 확보할 수 있도록 검토 과정을 거쳤습니다. 정보 제공 용도로만 제공됩니다.