오픈AI, 할라피뇨 칩 제작 위해 브로드컴과 협력: ‘엔비디아 탈피’를 위한 승부수, 성공할 것인가?

할라페뇨는 AI 추론을 위해 특별히 설계된 반도체다. AI 컴퓨팅 워크플로우에는 '학습'과 '추론'이라는 두 가지 핵심 단계가 있다. 학습은 방대한 양의 데이터를 사용해 모델을 '가르치는' 과정이며, 추론은 모델이 사용자의 쿼리를 받은 후 답변을 생성하는 단계다. 할라페뇨는 특히 추론 단계를 겨냥하고 있다.

엔비디아의 범용 GPU와 달리, 할라페뇨는 거대언어모델을 빠르고 에너지 효율적으로 구동하는 단 한 가지 작업에 최적화되어 있다. 그래픽 렌더링과 같은 다른 작업 간의 균형을 맞출 필요가 없어, 추론 작업에서 더 높은 효율성과 더 낮은 비용을 달성할 수 있다. 리처드 호 OpenAI 하드웨어 총괄은 핵심 연산, 메모리 전송, 네트워크 아키텍처를 깊이 있게 맞춤 설계했으며, 챗GPT와 같은 제품의 모든 응답을 더 저렴하고 빠르게 만드는 것을 목표로 하고 있다고 밝혔다.

리처드 호는 할라페뇨(Jalapeño)가 오픈AI에 모델부터 제품, 나아가 반도체와 데이터 센터에 이르기까지 완전한 통제권을 부여한다고 말했다. 이는 오픈AI가 더 이상 엔비디아의 컴퓨팅 파워를 임대하는 단순한 소프트웨어 기업에 머물지 않고, 컴퓨팅 인프라 기업으로 전환하고 있음을 의미한다.

전통적인 인터넷 기업의 확장 경로와 달리 할라페뇨의 이면에는 명확한 논리가 존재한다. 더 나은 모델이 더 나은 반도체 설계를 도울 수 있고, 더 나은 반도체는 차세대 모델의 운영 비용을 낮출 수 있으며, 낮아진 비용은 결과적으로 더 많은 사용자와 제품을 지원할 수 있다는 것이다. 이 폐쇄 루프가 성공적으로 구축되면 엔비디아가 핵심 공급업체에서 대체 가능한 선택지로 밀려날 것이라는 시각은 더 이상 단순한 기우에 그치지 않을 것이다.

진입점으로 추론 영역을 선택하다. 엔비디아의 가장 강력한 분야인 학습 영역에서 정면 대결을 벌이는 대신, 오픈AI는 사용자가 챗GPT에 질문을 입력하고 모델이 답변을 생성하는 계산 단계인 추론 시나리오를 목표로 삼았다.

이는 더 실용적인 진입점이다. 학습은 극도로 높은 연산 밀도와 다재다능함을 요구하며, 이는 엔비디아의 GPU가 구조적 우위를 점하고 있는 분야다. 반면 추론은 확립된 모델 아키텍처 하에서 대규모 요청을 처리하므로, 특정 용도에 특화된 주문형 반도체가 범용 GPU보다 효율성과 비용 측면에서 더 우수한 성능을 발휘하기 쉽다.

더 중요한 점은 추론 비용이 오픈AI에 지속적인 일상 비용이라는 사실이다. 혹 탄 브로드컴 최고경영자(CEO)는 '할라페뇨(Jalapeño)'의 추론 비용이 주류 AI GPU보다 약 50% 저렴할 수 있으며, 성능은 엔비디아의 블랙웰 칩과 거의 대등한 수준이라고 밝혔다.

AI 지원 설계, 9개월 만에 테이프아웃 완료. 기존의 고성능 칩은 아키텍처 설계부터 테이프아웃까지 보통 2~3년이 걸리는 반면, 할라페뇨는 단 9개월 만에 이를 달성했다.

이러한 성과의 핵심 요인은 오픈AI가 자체 모델을 활용해 칩 설계 워크플로우를 가속화한 데 있었다. AI는 이제 단순히 칩을 소비하는 존재에 그치지 않고 직접 설계하기 시작했으며, 이 사실 자체만으로도 매우 주목할 만하다.

단일 칩에 그치지 않고 전체 로드맵을 제시하다. 할라페뇨는 첫 단계일 뿐이다. 오픈AI와 브로드컴은 다세대 칩 로드맵을 수립했으며, 2029년까지 10기가와트(GW) 규모의 맞춤형 칩 컴퓨팅 파워를 구축하는 것을 목표로 하고 있다. 브로드컴은 2027 회계연도까지 자체 AI 관련 매출이 1000억 달러를 넘어설 것으로 전망하고 있다.

오픈AI만 그런 것은 아니다. 구글( GOOGL ), 아마존( AMZN ), 마이크로소프트( MSFT ), 메타( META) 모두 자체 칩을 개발하고 있으며, 앤트로픽 역시 맞춤형 반도체 도입을 위한 평가에 착수했다. 맞춤형 칩 개발 열풍은 개별 기업의 단발성 실험을 넘어 업계 전반의 거대한 흐름으로 자리 잡고 있다.

1. 엔비디아의 규모적 우위는 여전히 압도적

브로드컴은 2027회계연도 AI 반도체 매출이 1,000억 달러를 넘어설 것으로 예상하고 있으며, 이는 매우 인상적인 수치로 보인다. 하지만 엔비디아의 2027회계연도 1분기 데이터센터 매출만 해도 전년 동기 대비 92% 급증한 752억 달러에 달했다. 즉, 엔비디아가 단 한 분기 동안 판매하는 AI 하드웨어 규모가 브로드컴의 한 해 예상 AI 반도체 매출을 이미 넘어서는 셈이다. 양사 간의 규모 격차는 여전히 매우 크다.

2. 우회하기 어려운 장벽, CUDA 소프트웨어 생태계

엔비디아의 진정한 경쟁 우위는 GPU 하드웨어가 아니라, 7,000개 이상의 애플리케이션을 지원하고 수백만 명의 개발자가 오랫동안 의존해 온 툴체인 기반의 CUDA 및 번들 소프트웨어 생태계에 있다.

ASIC 반도체인 할라페뇨는 CUDA를 지원하지 않으며, 호환성을 갖출 계획도 없다. 하지만 핵심은 오픈AI가 할라페뇨를 외부에 판매할 필요가 없다는 점이다. 단지 자체 추론 워크로드에 맞게 최적화하기만 하면 된다. 이러한 전략으로 CUDA를 우회할 수는 있지만, 더 넓은 AI 개발 커뮤니티에서 CUDA가 차지하고 있는 지배적인 지위를 흔들기에는 아직 역부족이다.

3. 단기적인 생산 능력 한계, 대체재보다는 보완재에 가까워

오픈AI는 할라페뇨가 기존 컴퓨팅 성능의 대체재가 아닌 보완재라는 점을 분명히 했다. 브록먼은 회사가 필요한 컴퓨팅 성능을 충분히 빠른 속도로 확보하지 못하고 있을 뿐이라고 단도직입적으로 말했다.

쉽게 간과하기 쉬운 배경도 있다. 약 9개월 전 엔비디아는 오픈AI에 대한 300억 달러 규모의 전략적 투자를 막 마쳤다. 당시 젠슨 황은 "이것이 마지막이 될지도 모른다"고 말했는데, 이는 엔비디아가 이미 오래전부터 할라페뇨 프로젝트를 예상하고 있었음을 시사한다. 양사는 여전히 공생 관계를 유지하고 있다.

더욱 신중한 평가는 엔비디아의 경쟁 우위가 잠식되고 있으나, 무너지는 것과는 거리가 멀다는 것이다.

추론 시장은 GPU 독점 체제에서 GPU와 다양한 주문형 반도체(ASIC)가 공존하는 다변화된 환경으로 전환되고 있다. 만약 오픈AI의 다세대 반도체 로드맵이 순조롭게 진행된다면, 추론 워크로드의 GPU에서 ASIC로의 전환이 가속화될 것이다. 그러나 엔비디아의 경우, 학습 시장에서의 장벽, CUDA의 생태계 고착화, 그리고 규모의 우위는 단기적으로 흔들기 어려울 것으로 보인다.

할라페뇨가 궁극적으로 어디까지 도달할 수 있을지에 대한 답은 2년 뒤 도입 데이터가 확보될 때까지 드러나지 않을 수 있다.

Q: 할라피뇨 반도체는 언제 공식적으로 상용화되나요?

A: 현재는 아직 엔지니어링 샘플 단계에 있습니다. 오픈AI는 향후 수개월 내에 더 구체적인 기술 보고서를 발표할 것으로 예상하고 있으며, 양산 및 배포를 위한 구체적인 일정은 아직 발표되지 않았습니다.

Q: 할라피뇨가 엔비디아 GPU를 대체하게 되나요?

A: 단기적으로는 그렇지 않습니다. 오픈AI는 이것이 대체재라기보다 연산 능력을 보완하는 수단임을 분명히 했으며, 차세대 파운데이션 모델 학습은 여전히 엔비디아 GPU에 크게 의존하고 있습니다.

Q: 할라피뇨의 추론 비용이 실제로 50% 절감될 수 있나요?

A: 이 수치는 혹 탄 브로드컴 CEO의 공개 발언에서 나온 것이지만, 이는 초기 테스트 지표에 기반한 것이며 최종 양산 이후의 실제 성능은 추가로 검증되어야 합니다.

이 콘텐츠는 AI를 활용하여 번역되었으며, 명확성을 확보할 수 있도록 검토 과정을 거쳤습니다. 정보 제공 용도로만 제공됩니다.