단독-소식통: 오픈AI, 일부 엔비디아 칩에 불만족…대안 모색 중

Max A. CherneyㆍKrystal HuㆍDeepa Seetharaman

샌프란시스코, 2월03일 (로이터) - 오픈AI는 엔비디아의 최신 인공지능(AI) 칩 중 일부에 불만족하며 작년부터 대안을 모색 중이라고 이 문제에 정통한 8명의 소식통이 밝혔다. 이는 AI 붐에서 가장 주목받는 두 기업 간의 관계를 잠재적으로 복잡하게 만들 수 있다.

여기에서 처음 보도되는 챗GPT 개발사의 이러한 전략 변화는 챗GPT 앱을 구동하는 AI 모델이 고객 문의 및 요청에 응답하는 과정인 AI 추론의 특정 요소를 수행하는 데 사용되는 칩에 대한 강조가 점점 더 커지고 있기 때문으로 분석된다. 엔비디아는 대규모 AI 모델 훈련용 칩 분야에서 여전히 우위를 점하고 있지만, 추론 분야는 경쟁의 새로운 전선이 되고 있다.

오픈AI와 다른 업체들(link)이 추론 칩 시장에서 대안을 모색하려는 이번 결정은 엔비디아의 AI 지배력에 대한 중대한 시험대이며, 두 회사가 투자 협상을 진행 중인 상황에서 나왔다.

지난 9월, 엔비디아는 칩 제조업체에 스타트업 지분을 제공하고 오픈AI가 첨단 칩 구매에 필요한 현금을 지원하는 거래의 일환으로 오픈AI에 최대 1,000억 달러를 투자할 계획이라고 밝혔다 (link).

이 거래는 몇 주 안에 성사될 것으로 예상됐다고 로이터통신은 보도했다. 하지만 협상은 몇 달 동안 계속됐다. 그 기간 동안 오픈AI는 AMD(AMD.O) 등과 엔비디아에 필적하는 GPU를 공급받기 위한 계약을 체결했다. 그러나 제품 로드맵의 변화로 인해 필요한 컴퓨팅 리소스의 종류도 달라지면서 엔비디아와의 협상이 난항을 겪고 있다고 이 문제에 정통한 한 관계자는 전했다.

토요일, 엔비디아 CEO 젠슨 황은 오픈AI와의 긴장 관계에 대한 보도에 대해 "말도 안 되는 소리"라고 일축하며 (link) 엔비디아가 오픈AI에 막대한 투자를 계획하고 있다고 말했다.

"고객들은 추론 분야에서 최고의 성능과 총소유비용을 대규모로 제공하기 때문에 계속해서 NVIDIA를 선택하고 있다"고 엔비디아는 성명에서 밝혔다.

오픈AI 대변인은 별도의 성명에서 오픈AI가 추론 작업 대부분을 엔비디아에 의존하고 있으며, 엔비디아가 추론에 있어 달러당 최고의 성능을 제공한다고 말했다.

로이터 기사가 보도된 후 오픈AI 최고경영자 샘 알트먼은 X에 올린 글에서 엔비디아가 "세계 최고의 AI 칩"을 만들고 있으며 오픈AI는 "오랫동안 거대 고객"으로 남아 있기를 희망한다고 밝혔다.

7명의 소식통은 오픈AI가 소프트웨어 개발 및 다른 소프트웨어와 소통하는 AI와 같은 특정 유형의 문제에 대해 엔비디아의 하드웨어가 챗GPT 사용자에게 답변을 제공하는 응답 속도에 만족하지 않는다고 전했다. 한 소식통은 향후 오픈AI의 추론 컴퓨팅 수요의 약 10%를 충족할 수 있는 새로운 하드웨어가 필요하다고 로이터에 말했다.

두 소식통에 따르면 챗GPT 개발사는 더 빠른 추론을 위한 칩을 제공하기 위해 세레브라스(Cerebras) 및 Groq을 포함한 스타트업과 협력 방안을 논의했다고 전했다. 하지만 엔비디아가 Groq과 200억 달러 규모의 라이선스 계약을 체결하면서 오픈AI의 논의가 중단되었다고 한 소식통은 로이터에 말했다.

칩 업계 임원들은 엔비디아가 (link) Groq의 핵심 인재 (link) 를 영입하기로 한 결정이 급변하는 AI 산업에서 경쟁력을 강화하기 위한 기술 포트폴리오를 보강하려는 노력으로 보인다고 말했다. 엔비디아는 성명에서 Groq의 지적 재산이 엔비디아의 제품 로드맵에 매우 보완적이라고 밝혔다.

엔비디아의 대안

엔비디아의 그래픽 처리 칩은 현재까지 전 세계적으로 AI의 폭발적인 성장을 뒷받침한 챗GPT와 같은 대규모 AI 모델을 훈련하는 데 필요한 막대한 데이터 처리(크런칭)에 매우 적합하다. 그러나 AI 발전은 추론 및 추론 기능에 훈련된 모델을 활용하는 데 점점 더 초점을 맞추고 있으며, 이는 AI의 새롭고 더 큰 단계가 될 수 있어 오픈AI의 노력에 영감을 불어넣고 있다.

작년부터 GPU 대안을 모색한 챗GPT 개발사는 나머지 칩과 같은 실리콘 웨이퍼에 대량의 메모리를 내장한 칩, 즉 SRAM을 개발하는 회사들에 초점을 맞췄다. 각 칩에 최대한 많은 고가의 SRAM을 집적하면 수백만 명의 사용자 요청을 처리하는 챗봇과 기타 AI 시스템에 속도 이점을 제공할 수 있다.

추론은 수학적 연산을 수행하는 것보다 메모리에서 데이터를 가져오는 데 상대적으로 더 많은 시간을 소비해야 하므로 훈련보다 더 많은 메모리가 필요하다. 엔비디아와 AMD의 GPU 기술은 외부 메모리에 의존하기 때문에 처리 시간이 길어지고 사용자가 챗봇과 상호작용하는 속도가 느려진다.

오픈AI 내부에서는 이 문제가 특히 오픈AI가 공격적으로 마케팅해 온 컴퓨터 코드 작성용 제품인 코덱스에서 두드러졌다고 한 소식통은 덧붙였다. 다른 소식통은 오픈AI 직원들이 코덱스의 일부 약점이 엔비디아의 GPU 기반 하드웨어 때문이라고 말했다.

1월 30일 기자들과의 통화에서 알트만은 오픈AI의 코딩 모델을 사용하는 고객들은 "코딩 작업의 속도에 큰 프리미엄을 부여할 것"이라고 말했다.

알트만은 오픈AI가 이러한 수요를 충족시킬 한 가지 방법은 세레브라스(Cerebras)와의 최근 계약을 통해서라고 말하며, 일반 챗GPT 사용자에게는 속도가 그다지 중요하지 않다고 덧붙였다.

앤트로픽(Anthropic)의 클로드(Claude)와 구글의 제미니(Gemini) 같은 경쟁 제품들은 추론에 필요한 계산을 위해 설계된 텐서 처리 장치(TPU)라 불리는 구글 자체 제작 칩에 더 많이 의존하는 배포 이점을 누리며, 엔비디아가 설계한 GPU와 같은 범용 AI 칩보다 성능 우위를 제공할 수 있다.

움직이는 엔비디아

오픈AI가 엔비디아 기술에 대한 유보적인 입장을 분명히 밝히자, 엔비디아는 세레브라스(Cerebras)와 Groq 등 SRAM 기반 칩을 개발하는 기업들에게 잠재적인 인수에 대해 접근했다고 관계자들은 말했다. 세레브라스는 이를 거절하고 지난달 발표된 오픈AI와 상업적 계약을 체결했다. 세레브라스는 이에 대해 논평을 거부했다.

이 논의에 정통한 관계자들에 따르면 Groq은 오픈AI와 컴퓨팅 파워 제공 계약을 위한 협상을 진행했으며, 약 140억 달러의 가치로 투자자들의 관심을 받았다고 한다. Groq은 논평을 거부했다.

그러나 소식통에 따르면 12월에 엔비디아는 비독점적 전액 현금 거래를 통해 Groq의 기술을 라이선스하기로 결정했다고 전했다. 이 거래를 통해 다른 회사들도 Groq의 기술을 라이선스할 수 있게 되었지만, 엔비디아가 Groq의 칩 설계자를 영입하면서 현재 Groq은 클라우드 기반 소프트웨어 판매에 주력하고 있다.