Amazon está fabricando seus próprios chips de IA para rivalizar com a Nvidia

Amazon já desenvolveu alguns processadores internos

De acordo com o Financial Times , a Amazon já trabalhou em vários processadores internos feitos sob medida para suas cargas de trabalho de data center.

Espera-se que a maior parte das informações que cobrem o desenvolvimento deste processador de IA sejam divulgadas pela empresa em sua linha de chips Trainium no próximo mês.

Os relatórios indicam que a OpenAI, apoiada pela Microsoft, já está usando os chips desenvolvidos pelo Annapurna Labs. Annapurna Labs é o principal parceiro da Amazon que produz os chips processadores de IA, bem como fornece ao gigante do comércio eletrônico e da computação em nuvem acesso ao modelo fundamental de IA Claude da Anthropic.

A grande tecnologia decidiu pressionar por menos dependência da NVIDIA, pois é a única empresa que produz os processadores de IA mais poderosos e dent . Apesar das GPUs NVIDIA serem as melhores do mercado, elas têm alta demanda e pouca oferta, o que as torna caras e um aumento de custos no desenvolvimento de IA.

A escassez dos processadores de IA de melhor desempenho os tornou um dos produtos mais procurados e caros do mundo.

O Financial Times informou que, para a Amazon, o desenvolvimento interno de chips de IA é uma estratégia para reduzir sua dependência da NVIDIA para o produto.

Amazon quer reduzir o custo de produtos de IA de outras empresas

No entanto, a Amazon não é novata na produção de chips personalizados. A aquisição da Annapurna permitiu à empresa fornecer opções alternativas de forma consistente, a fim de reduzir o custo de utilização dos produtos AMD e Intel para cargas de trabalho tradicionais de data centers.

Os processadores Graviton, fabricados pela Annapurna, trabalham em conjunto com os processadores de IA personalizados chamados Trainium, fabricados pela Amazon. A Amazon lançou o Trainium 2 em novembro de 2023 e foi projetado para funcionar com grandes modelos de linguagem.

Tal como acontece com os processadores alternativos para data centers, Annapurna também está na frente para reduzir a dependência da Amazon das GPUs da NVIDIA, pois é o desenvolvedor preferido.

Embora a reportagem do Financial Times não tenha revelado muito sobre as características dos chips, ela disse que a empresa aproveitará o evento que cobrirá os chips Trainium2. A Anthropic está usando o Trainium 2, mas o chip está em falta, apesar de ter sido lançado em 2023.

$AMZN AUMENTA AI CHIP PUSH PARA RIVAL $NVDA - FT

O Annapurna Labs da Amazon está aumentando sua linha de chips de IA personalizados para reduzir a dependência da Nvidia. Com o Trainium 2, que será lançado em breve, já testado por empresas como Anthropic e Databricks, a Amazon pretende cortar custos de sua nuvem… pic.twitter.com/1QIKInsy2V

– Wall St Engine (@wallstengine) 12 de novembro de 2024

De acordo com a Amazon, mais de 500.000 clientes AWS usavam seus chips Graviton em 2023.

Outros gigantes da tecnologia, como a Alphabet, controladora do Google , e a Meta, proprietária do Facebook, também desenvolveram chips de IA. No entanto, algumas grandes empresas de tecnologia como a Apple ainda terceirizam para seus rivais. A Meta lançou no início deste ano seu Meta Training and Inference Accelerator (MTIA) de segunda geração e ambos reduzem a dependência das GPUs da NVIDIA.

Também está sendo relatado que a OpenAI, apoiada pela Microsoft, também está considerando a possibilidade de desenvolver seus próprios chips. Na mesma linha, o Google lançou um chip AI de unidade de processamento de tensor (TPU), Trillium, sua última oferta no início de novembro.

Diz-se que os chips Google TPU AI são quatro vezes mais rápidos no desempenho do treinamento de IA e três vezes mais rápidos na inferência do que seus antecessores.

Enquanto isso, a Amazon estendeu seus esforços além do desenvolvimento de hardware. Em julho, a empresa de tecnologia anunciou que estava trabalhando em um chatbot de IA chamado Metis . O chatbot foi projetado para operar com o dobro dos parâmetros de dados do GPT-4 da OpenAI.