OpenAI liefert Muster des ersten maßgeschneiderten Chips Jalapeno, übertrifft bestehende Nvidia-Produkte in einigen Tests

TradingKey – OpenAI gab am Mittwoch bekannt, dass Ingenieursmuster von Jalapeno, dem ersten gemeinsam mit Broadcom (AVGO) entwickelten kundenspezifischen Chip, ausgeliefert wurden und derzeit Laborprüfungen unterzogen werden. Broadcom-CEO Hock Tan sagte, erste Ergebnisse zeigten, dass die Betriebskosten von Jalapeno bei typischen KI-Workloads im Vergleich zu herkömmlichen KI-GPUs um etwa 50 % gesenkt werden könnten.

Jalapeno ist primär für die Inferenz großer Sprachmodelle konzipiert – die Phase nach dem Modelltraining, in der Systeme auf Benutzeranfragen antworten und Aufgaben ausführen. Richard Ho, Hardware-Chef bei OpenAI, sagte, der Chip erreiche ein ausgewogenes Verhältnis zwischen Durchsatz und Antwortgeschwindigkeit. Dadurch könne er mehr Benutzer zu geringeren Kosten bedienen und gleichzeitig die Wartezeiten bei Aufgaben mit hohen Echtzeitanforderungen reduzieren. Der Chip weist eine Leistungsaufnahme von etwa 700 Watt auf, was voraussichtlich die Stromkosten in Rechenzentren senken wird.

OpenAI erklärte, Jalapeno habe in internen Tests eine hohe Leistung pro Watt gezeigt und in einigen Tests bestehende Produkte von Nvidia übertroffen. Bei diesen Ergebnissen handelt es sich jedoch weiterhin um frühe interne Testergebnisse, die noch nicht durch einen großflächigen kommerziellen Einsatz validiert wurden. Der Chip wurde weder mit Nvidias neuester Generation Vera Rubin verglichen noch wird er für das Training von KI-Modellen eingesetzt, sodass er die Nvidia-Produkte im Trainingsbereich kurzfristig nicht ersetzen wird.

<a i=0>Nach dieser Nachricht stieg die Broadcom-Aktie im frühen Handel um mehr als 1 %, bevor sie ihre Gewinne auf 0,66 % verringerte und bei 361,13 US-Dollar handelte.</a>

Broadcom-Aktienkurs-Chart, Quelle: TradingView

Dem Plan zufolge wird die finale Version von Jalapeno ab Ende dieses Jahres in Rechenzentren von Microsoft und anderen Partnern eingesetzt. Broadcom ging zuvor davon aus, im nächsten Jahr Chips mit einer Gesamtleistung von etwa 1,3 Gigawatt bereitzustellen, und Tan sagte, dass der tatsächliche Umfang bei weiter steigender Nachfrage dieses Ziel übertreffen könnte. Die beiden Unternehmen haben zudem eine generationsübergreifende Chip-Roadmap erstellt, wobei das Produkt der nächsten Generation voraussichtlich 2028 auf den Markt kommen und danach kontinuierlich weiterentwickelt werden soll.

Diese Partnerschaft ist für OpenAI ein wichtiger Schritt, um seine Chip-Bezugsquellen zu erweitern und Infrastrukturkosten zu senken. Neben den weiterhin umfangreichen Käufen von Nvidia-Produkten ist OpenAI auch Partnerschaften mit Chipherstellern wie AMD und Cerebras eingegangen und plant, die Kontrolle über Chips, Speicher, Netzwerke und Rechenzentrumssysteme zu stärken. Das Unternehmen hat Anfang dieses Jahres rund 122 Milliarden US-Dollar aufgenommen, um in Chips, Rechenzentren und Talente zu investieren. Wie OpenAI die großflächigen Chip-Bestellungen jedoch bezahlen wird, bleibt künftigen Finanzierungsvereinbarungen vorbehalten.