OpenAI는 엔비디아 추론 하드웨어에 불만을 표하며 AMD, Cerebra, Groq 등을 검토 중이라고 밝혔습니다

OpenAI는 특히 사용자 문의에 대한 응답 속도 측면에서 엔비디아의 AI 칩에 더 이상 만족하지 못하고 있습니다. 이 회사는 작년에 다른 대안을 모색하기 시작했으며, 현재 AMD, Cerebras와 협의 중이고, Groq와도 논의를 진행했으나 프로젝트가 중단되었습니다.

이러한 긴장감은 OpenAI가 엔비디아 칩이 코드 작성이나 소프트웨어 간 작업 처리와 같은 특정 작업에 충분히 빠르지 않다는 것을 깨달으면서 현실화되기 시작했습니다.

한 내부 관계자에 따르면, 오픈AI는 향후 추론 작업의 최소 10%를 처리할 수 있는 새로운 칩을 원하고 있다고 합니다. 이는 AI가 학습하는 부분이 아니라 사용자의 질문에 답변하는 부분을 말합니다.

OpenAI는 코딩과 사용자 응답을 위해 더 빠른 칩을 원합니다

현재 OpenAI의 대부분의 작업은 여전히 엔비디아 프로세서에서 실행되지만, 내부적으로는 모든 것을 더 빠르게 만들 수 있는 칩을 테스트하고 있습니다.

여기에는 프로세서 바로 옆에 메모리를 배치하여 속도를 향상시키는 SRAM이 탑재된 칩이 포함됩니다. 엔비디아와 AMD는 여전히 칩 외부에 메모리를 배치하여 속도를 저하시킵니다.

OpenAI 내부 관계자들은 코드 작성 도구인 Codex가 속도 저하의 가장 큰 원인이라고 지적했습니다. 일부 직원들은 엔비디아 하드웨어의 성능 저하를 문제의 원인으로 지목하기도 했습니다. 1월 30일 기자 회견에서 OpenAI CEO 샘 알트만은 "저희 코딩 모델을 사용하는 고객들은 코딩 작업 속도를 매우 중요하게 생각할 것입니다."라고 말했습니다

샘은 일반 ChatGPT 사용자는 속도에 그다지 신경 쓰지 않지만 개발자와 기업에게는 매 순간이 중요하다고 덧붙였습니다. 그는 OpenAI가 속도 향상을 위해 Cerebras와 계약을 체결했다고 밝혔습니다.

한편, 앤스로픽과 구글 같은 기업들은 자체 칩을 사용하여 더 나은 결과를 얻고 있습니다. 구글의 TPU는 추론에 필요한 작업에 특화되어 설계되었기 때문에, 특히 클로드(Claude)나 제미니(Gemini) 같은 모델에서 응답 속도가 훨씬 빨라졌습니다.

엔비디아 라이선스 계약 체결 후 OpenAI와 Groq 간의 협상이 중단되었습니다

OpenAI는 고속 칩을 개발하는 또 다른 스타트업인 Groq와도 협상을 진행했지만, 그 논의는 진전되지 못했습니다. 엔비디아가 나서서 Groq와 200억 달러 규모의 라이선스 계약을 체결했기 때문입니다. 이 계약으로 엔비디아는 Groq의 설계에 접근할 수 있게 되었고, OpenAI의 협력 계획은 무산되었습니다.

사정에 정통한 소식통에 따르면 Groq의 칩은 OpenAI가 필요로 하는 용도에 정확히 맞춰 개발되었다고 합니다. 하지만 엔비디아가 계약을 체결하면서 그 가능성은 사라졌습니다. 라이선스 계약이 비독점적이었음에도 불구하고 Groq는 이제 클라우드 기반 소프트웨어에 집중하고 있으며, 엔비디아는 Groq의 칩 설계 인력 일부를 영입했습니다.

반면 세레브라스는 엔비디아의 인수 제안을 거절하고 오픈AI와 자체적인 계약을 체결했습니다. 그로크 역시 투자 유치를 통해 약 140억 달러의 기업 가치를 평가받았지만, 엔비디아와의 계약 체결 이후 그 가치는 변동되었습니다.

OpenAI가 엔비디아와의 협력을 완전히 끊은 것은 아닙니다. 대변인은 공식 성명을 통해 "우리는 추론 연산의 대부분을 엔비디아에 의존하고 있다"며, 엔비디아의 가격 대비 성능이 시장 최고 수준이라고 밝혔습니다. 엔비디아 역시 "고객들이 추론 연산에 엔비디아를 선택하는 이유는 엔비디아가 대규모 환경에서 최고의 성능과 총 소유 비용을 제공하기 때문"이라고 설명했습니다

엔비디아의 1,000억 달러 규모 투자 계약, 여전히 불확실한 상태

작년 엔비디아는 오픈AI에 최대 1,000억 달러를 투자할 계획이라고 밝혔습니다. 이 cash 오픈AI가 더욱 발전된 칩을 구매하는 데 사용될 예정이었고, 그 대가로 엔비디아는 오픈AI의 지분을 확보하게 됩니다. 로이터 통신은 이 거래가 몇 주 안에 마무리될 것으로 예상했지만, 아직 성사되지 않았다고 보도했습니다.

해당 거래가 교착 상태에 빠지는 동안, 오픈아이(OpenAI)는 엔비디아의 칩과 직접 경쟁할 수 있는 칩 테스트를 위해 AMD를 비롯한 여러 회사와 계약을 체결했습니다. 그러나 오픈아이가 제품 계획을 변경하면서 필요한 하드웨어 종류도 바뀌었습니다. 이로 인해 협상이 더욱 지연되었다고 사정에 정통한 관계자는 전했습니다.

토요일, 엔비디아 CEO 젠슨 황은 갈등에 대한 질문을 받았습니다. 그는 "말도 안 되는 소리"라고 일축하며 엔비디아가 여전히 오픈AI에 대규모 투자를 계획하고 있다고 강조했습니다. 하지만 물밑에서는 양측이 다양한 가능성을 모색하고 있는 것이 분명해 보입니다.

한편, 엔비디아는 새로운 칩 아이디어를 모색하기 위해 여러 업체에 접촉했습니다. 세레브라스와 그로크에 인수 의향이 있는지 문의했지만, 세레브라스는 이를 거절하고 오픈AI와의 인수 계약을 강화했습니다.

현재 OpenAI는 대부분의 서비스에 GPT4o를 사용하고 있습니다. 하지만 추세로 미루어 볼 때, 가까운 미래에는 적어도 일부 서비스는 AMD나 Cerebra 칩에서 실행될 가능성이 높습니다. OpenAI가 엔비디아를 완전히 버리려는 것은 아니지만, 시스템 속도를 더욱 효과적으로 제어하고 싶어하는 것은 분명해 보입니다.

암호화폐 뉴스를 단순히 읽는 데 그치지 마세요. 이해하세요. 저희 뉴스레터를 구독하세요. 무료입니다 .