메타는 향후 2년 내에 4세대 MTIA 칩을 개발할 계획이라고 밝혔습니다

메타는 엔비디아에 대한 의존도를 줄이기 위한 경쟁이 주요 기술 업계 전반에서 더욱 치열해짐에 따라 맞춤형 AI 칩 개발에 더욱 박차를 가하고 있습니다.

회사 측은 2023년에 메타 학습 및 추론 가속기(MTIA) 개발을 시작했으며, 향후 2년 동안 4세대에 걸친 새로운 칩 개발을 준비하고 있다고 밝혔습니다.

메타에 따르면, 이 칩들은 메타의 모든 제품에서 순위, 추천 및 인공지능(GenAI) 관련 작업을 위해 개발되고 있다고 합니다.

또한, 회사 측은 특정 공급업체나 하드웨어 하나에만 의존하지 않을 것이라고 밝혔습니다. 메타는 여러 업계 업체로부터 실리콘을 지속적으로 구매하는 동시에 MTIA를 자체 AI 인프라 계획의 중심에 둘 계획입니다.

회사 측은 AI 워크로드가 성장하고 변화함에 따라 "포트폴리오 접근 방식"을 취하고 있다고 밝혔습니다. 이는 전체 스택을 한 공급업체에 맡기는 대신 외부 칩과 자체 개발 칩을 혼합하여 사용한다는 의미입니다.

Meta는 더욱 빠른 일정으로 4세대 MTIA 칩을 출시합니다

메타는 이미 자사 앱 전반에 걸쳐 일반 콘텐츠와 광고 모두와 관련된 추론 작업에 수십만 개의 MTIA 칩을 사용하고 있다고 밝혔습니다.

이 칩들은 일반적인 용도가 아닌 회사 자체의 업무용으로 제작되었습니다. 이는 Meta 측에서 해당 하드웨어가 맞춤형 풀스택 솔루션의 일부이며, 이를 통해 매일 수행하는 작업에 더욱 최적화된 시스템을 구축할 수 있다고 밝혔기 때문에 중요한 점입니다.

회사 측은 이러한 구성이 특정 사용 사례에 대해 더 나은 컴퓨팅 효율성을 제공하고 범용 칩에 비해 비용을 절감한다고 밝혔습니다.

다음 단계는 대규모 배포입니다. 메타 는 MTIA 300, 400, 450, 500을 개발 중이며, 각 버전마다 컴퓨팅 성능, 메모리 대역폭 및 효율성이 향상될 것이라고 밝혔습니다. MTIA 300은 이미 상용화되어 순위 지정 및 추천 학습을 처리할 예정입니다.

MTIA 400, 450, 500은 모든 워크로드를 실행할 수 있지만, Meta는 이러한 칩이 단기적으로 그리고 2027년까지 주로 GenAI 추론 생산에 사용될 것이라고 밝혔습니다.

또한 이 회사는 해당 실리콘이 모듈형이므로 새로운 칩을 기존 랙 시스템 인프라에 쉽게 통합할 수 있다고 밝혔습니다. 이는 설계와 배포 사이의 대기 시간을 단축시켜 줍니다.

출시 속도에 대해 메타는 업계에서 일반적으로 1~2년마다 새로운 AI 칩을 출시하지만, 모듈형 설계를 재사용함으로써 이제 6개월 이내에 자체 칩을 출시할 수 있는 역량을 갖추게 되었다고 밝혔습니다.

Meta는 추론 및 개방형 표준을 중심으로 AI 칩 전략을 구축합니다

회사 측은 MTIA 전략이 빠른 반복, 추론 우선 설계, 공통 표준을 통한 손쉬운 도입이라는 세 가지 요소에 기반한다고 밝혔습니다.

첫 번째 사항에 대해 메타는 출시 주기가 짧아 AI 기술의 변화에 더 빠르게 적응하고, 새로운 하드웨어 기술을 도입하며, 새로운 칩 버전 개발 및 배포 비용을 절감할 수 있다고 밝혔습니다

두 번째 요점에 대해 Meta는 자사의 계획과 일반적인 시장 모델의 차이점을 명확히 했습니다. 회사 측은 대부분의 주류 칩은 대규모 GenAI 사전 학습 작업을 위해 먼저 개발된 후 다른 작업에 사용되는데, 이 경우 종종 더 낮은 비용으로 처리된다고 밝혔습니다.

Meta는 정반대의 방식을 취하고 있다고 밝혔습니다. MTIA 450과 500은 먼저 GenAI 추론을 위해 튜닝된 후, 순위 지정, 추천 학습 및 추론, 그리고 필요에 따라 GenAI 학습에 사용될 예정입니다.

또한 회사 측은 MTIA가 PyTorch, vLLM, Triton 및 Open Compute Project를 포함한 표준 도구 및 시스템을 기반으로 처음부터 구축되었다고 밝혔습니다. 시스템 및 랙 설계 역시 데이터 센터에서 사용하기 위한 OCP 표준을 준수합니다.

메타는 또한 단일 칩으로는 모든 요구 사항을 충족할 수 없기 때문에 다양한 작업 부하에 맞춰 서로 다른 칩을 배포하고 "모두를 위한 개인 초지능"을 향해 나아갈 계획이라고 덧붙였습니다

암호화폐 업계 최고 전문가들에게 당신의 프로젝트를 알리고 싶으신가요? 데이터와 영향력이 만나는 저희 차기 산업 보고서에 당신의 프로젝트를 소개하세요.