Amazon está fabricando sus propios chips de IA para rivalizar con Nvidia

Amazon ya ha desarrollado algunos procesadores internos

Según el Financial Times , Amazon ya ha trabajado en varios procesadores internos hechos a medida para las cargas de trabajo de su centro de datos.

Se espera que la empresa publique la mayor parte de la información que cubre el desarrollo de este procesador de IA en su línea de chips Trainium el próximo mes.

Los informes indican que OpenAI, que cuenta con el respaldo de Microsoft, ya está utilizando los chips desarrollados por Annapurna Labs. Annapurna Labs es el socio principal de Amazon que produce chips de procesador de IA y proporciona al gigante del comercio electrónico y la computación en la nube acceso al modelo de IA fundamental Claude de Anthropic.

La gran tecnología ha decidido presionar para lograr una menor dependencia de NVIDIA, ya que es la única empresa que produce los procesadores de IA más potentes y dent . A pesar de que las GPU de NVIDIA son las mejores del mercado, tienen una gran demanda y una escasez de oferta, lo que las hace costosas y supone un impulso para el desarrollo de la IA.

La escasez de procesadores de IA de alto rendimiento los ha convertido en uno de los productos más buscados y caros del mundo.

El Financial Times informó que para Amazon, el desarrollo interno de chips de IA es una estrategia para reducir su dependencia de NVIDIA para el producto.

Amazon quiere reducir el coste de los productos de IA de otras empresas

Sin embargo, Amazon no es nueva en la producción de chips personalizados. La adquisición de Annapurna ha permitido a la empresa ofrecer opciones alternativas de manera consistente para reducir el costo de uso de los productos AMD e Intel para cargas de trabajo de centros de datos tradicionales.

Los procesadores Graviton, los fabricados por Annapurna, trabajan de la mano con los procesadores de IA personalizados llamados Trainium fabricados por Amazon. Amazon presentó Trainium 2 en noviembre de 2023 y está diseñado para funcionar con modelos de lenguajes grandes.

Al igual que con los procesadores alternativos para centros de datos, Annapurna también está a la vanguardia para reducir la dependencia de Amazon de las GPU de NVIDIA, ya que es el desarrollador elegido.

Aunque el informe del Financial Times no reveló mucho sobre las características de los chips, sí dijo que la empresa utilizará el evento que cubrirá los chips Trainium2. Anthropic está utilizando Trainium 2, pero el chip escasea a pesar de su lanzamiento en 2023.

$AMZN AUMENTA EL EMPUJE DE CHIP AI HACIA RIVAL $NVDA – FT

Annapurna Labs de Amazon está ampliando su línea de chips de IA personalizados para reducir la dependencia de Nvidia. Con el próximo lanzamiento de Trainium 2, ya probado por empresas como Anthropic y Databricks, Amazon pretende reducir los costos de su nube… pic.twitter.com/1QIKInsy2V

– Wall St Engine (@wallstengine) 12 de noviembre de 2024

Según Amazon, más de 500.000 clientes de AWS utilizaban sus chips Graviton en 2023.

Otros gigantes tecnológicos como Alphabet, matriz de Google , y Meta, propietario de Facebook, también se han dedicado al desarrollo de chips de inteligencia artificial. Sin embargo, algunas grandes tecnológicas como Apple todavía subcontratan a sus rivales. Meta lanzó a principios de este año su Meta Training and Inference Accelerator (MTIA) de segunda generación y ambos reducen la dependencia de las GPU de NVIDIA.

También se informa que OpenAI, respaldada por Microsoft, también está considerando la posibilidad de desarrollar sus propios chips. En la misma línea, Google lanzó un chip de IA de unidad de procesamiento tensorial (TPU), Trillium, su última oferta a principios de noviembre.

Se dice que los chips de IA TPU de Google son cuatro veces más rápidos en el rendimiento del entrenamiento de IA y tres veces más rápidos en la inferencia que sus predecesores.

Mientras tanto, Amazon ha extendido sus esfuerzos más allá del desarrollo de hardware. En julio, la empresa de tecnología anunció que está trabajando en un chatbot de IA llamado Metis . Se prevé que el chatbot funcione con el doble de parámetros de datos que el GPT-4 de OpenAI.