마이크로소프트, 내년 자체 AI 칩 '마이아 300' 도입 계획: 메가와트당 토큰 출력 40% 향상 및 엔비디아 GPU 의존도 낮출 것으로 기대

TradingKey - 마이크로소프트(MSFT)는 자체 개발한 차세대 AI 반도체 Maia300을 내년부터 데이터센터에 도입하고 마이아 시리즈의 구축 규모를 수 기가와트로 확대하여 자사 AI 소프트웨어를 주로 맞춤형 하드웨어로 구동하고 엔비디아 GPU에 대한 의존도를 줄일 계획이라고 밝혔다.

마이아 칩은 회의 요약 및 조사 질문 답변과 같은 작업을 수행하기 위해 기존 모델을 활용하는 AI 추론용으로 특화 설계되었다. 마이크로소프트는 Maia300이 주류 GPU 시스템에 비해 메가와트당 40% 더 많은 토큰을 생성할 것으로 예상하고 있다.

마이크로소프트의 데이터센터 하드웨어 및 반도체 설계 팀을 총괄하는 라니 보르카르(Rani Borkar) 임원은 "우리가 이러한 워크로드에 가장 적합한 제품을 구축했다고 확신한다"고 밝혔다. 그녀는 마이크로소프트가 내년부터 기가와트 규모로 마이아를 도입해 이러한 확신을 행동으로 입증할 것이라고 덧붙였다.

현재 마이크로소프트의 AI 추론 작업 대부분은 여전히 엔비디아 GPU로 처리되고 있다. 마이크로소프트는 자체 데이터센터에 최적화된 반도체를 개발함으로써 추론 효율성을 높이고 엔비디아 GPU 구매 지출의 일부를 줄일 수 있기를 기대하고 있다.

마이크로소프트는 올해 초 이전 세대인 Maia200의 도입을 시작했다. 보르카르는 이 반도체가 이미 오픈AI, 마이크로소프트 AI 팀, 오픈소스 모델 군의 모델을 실행해 코파일럿(Copilot)과 같은 AI 소프트웨어를 구동하는 데 사용되고 있다고 밝혔다. Maia200은 미국, 유럽, 호주의 데이터센터에 도입되어 마이크로소프트 팀즈(Microsoft Teams) 및 코파일럿 등의 제품에 AI 기능을 제공하고 있다.

맞춤형 AI 가속기는 주요 클라우드 제공업체가 외부 하드웨어에 대한 의존도를 낮추는 중요한 수단이 되었다. 아마존과 구글 역시 자체 전략을 추진하고 있으며, 마이크로소프트보다 일찍 시작해 맞춤형 반도체 분야의 선두 주자로 꼽힌다. 마이크로소프트의 이번 도입 확대는 내부 AI 서비스를 위한 자체 하드웨어 활용을 가속화하는 것을 목표로 한다.

하지만 마이크로소프트는 현재 마이아 칩의 기초 컴퓨팅 파워를 클라우드 고객에게 직접 임대할 계획은 없다. 보르카르는 이는 이미 자체 AI 반도체의 컴퓨팅 용량을 고객에게 제공하고 있는 구글 및 아마존과는 다른 점이라고 설명했다.