Inferenzkosten stürzen um 90% ab. Nvidia kooperiert mit LangChain zur Definition von Agent-Standards und sichert sich den neuen Einstiegspunkt für KI-Anwendungen

Anstatt zu betonen, „welche Aufgaben ein Agent erledigen kann“, konzentriert sich die diesmal von NVIDIA vorgestellte Lösung vielmehr darauf, wie Agenten gesteuert, überwacht, auditiert und kontinuierlich optimiert werden. Diese Fähigkeit ist besonders für stark regulierte Branchen wie das Finanzwesen, das Gesundheitswesen und den öffentlichen Sektor von entscheidender Bedeutung und senkt zudem die Hürde für Unternehmen, Agenten im großen Stil bereitzustellen.

Harrison Chase, Mitbegründer und CEO von LangChain, erklärte: „Der Schlüssel zur Entwicklung besserer Agenten liegt in der kontinuierlichen Verbesserung der Systeme rund um die Modelle. Wenn Teams gleichzeitig Speicher, Werkzeugnutzung, Evaluierung und Modellverhalten optimieren können, entstehen durch diese Fähigkeiten Synergieeffekte. Unsere Zusammenarbeit mit NVIDIA zeigt, dass Unternehmen durch einen offenen Stack nicht nur eine leistungsstarke Performance erzielen, sondern auch die Kontrolle über die von ihnen entwickelten Agentensysteme behalten können.“

Da Agenten immer risikoreichere Aufgaben übernehmen und sich von Assistenten, die Fragen beantworten, zu Ausführenden entwickeln, die in der Lage sind, innerhalb von Kernsystemen aktiv zu werden, steigen die Anforderungen von Unternehmen an die Steuerbarkeit und Sicherheit von KI-Systemen.

Die offene Architektur, die durch die NeMo Guardrails-Vorlage bereitgestellt wird, ermöglicht es Unternehmen, den gesamten Technologie-Stack lückenlos selbst zu besitzen. Dies erlaubt es ihnen, Anpassungen und kontinuierliche Verbesserungen auf Basis ihrer einzigartigen Fachvorteile vorzunehmen und die Ausführung in jeder Umgebung – einschließlich der eigenen Infrastruktur, Private Clouds und proprietären Governance-Frameworks – zu realisieren.

Die Kostenkontrolle war schon immer der zentrale Engpass für die großflächige Kommerzialisierung von KI, und das NeMoClaw-Konzept demonstriert in dieser Hinsicht einen signifikanten Vorteil.

Nach den von LangChain veröffentlichten Evaluierungsdaten erreichte das mit der Deep Agents-Suite ausgestattete Nemotron 3 Ultra-Modell eine Gesamtbewertung von 0,86, wobei die Inferenzkosten für eine einzelne Aufgabe bei nur 4,48 US-Dollar lagen, während das am nächsten herankommende Konkurrenzmodell bis zu 43,48 US-Dollar kostete – was einer Reduzierung um rund 90 % entspricht. Dieser Erfolg resultierte nicht aus dem erneuten Training des Modells selbst, sondern wurde durch die Optimierung von Tool-Aufrufstrategien, Kontextmanagement-Mechanismen und zwischengeschalteten Logik-Workflows realisiert.

Auf Hardware-Ebene hat die Blackwell-Architektur von Nvidia die Kosten für die Inferenz einzelner Token durch architektonische Upgrades bereits auf etwa 1/35 der Vorgängerplattform gesenkt und den Inferenz-Durchsatz deutlich effizienter gestaltet.

Das NeMoClaw-Konzept schöpft das Hardware-Potenzial auf Software-Ebene weiter aus. Durch die systematische Optimierung von Agenten-Aufgabenplanung, Tool-Aufrufen, Kontextmanagement und logischen Pfaden ermöglicht es derselben Rechenleistung, mehr Aufgaben zu unterstützen, wodurch durch das Zusammenspiel von Software und Hardware eine maximale Effizienz erreicht wird.

Diese Veröffentlichung ist für Nvidia ein wichtiger Schritt zur Verfeinerung seines NeMo-Software-Ökosystems und schließt eine Lücke auf der Entwicklungsebene für Agenten. In den letzten Jahren hat Nvidia rund um CUDA, TensorRT, NIM und NeMo einen vollständigen KI-Software-Stack aufgebaut, mit dem Ziel, eine Full-Link-Plattform zu werden, die Modelltraining, Inferenz-Bereitstellung und die Entwicklung von Unternehmensanwendungen abdeckt.

Da Agenten zum Kernmedium für KI-Anwendungen werden, entwickeln sich Frameworks zur neuen Schnittstelle für Ökosysteme. Die Partnerschaft mit LangChain ermöglicht es Nvidia, seine Funktionen über etablierte Frameworks in KI-Workflows von Unternehmen einzubinden und so im Zeitalter der Agenten über die reine Infrastruktur hinaus um die Vorherrschaft zu konkurrieren.

Für die Kapitalmärkte ist diese strategische Ausrichtung von großer Bedeutung. Der aktuelle Wettbewerb im Bereich der KI-Infrastruktur reift heran, und sich ausschließlich auf GPU-Verkäufe zu verlassen, macht es schwierig, das Bewertungswachstum aufrechtzuerhalten, während Software- und Plattformdienste höhere Bruttomargen und eine stärkere Kundenbindung bieten.

Durch die Verfeinerung des NeMo-Ökosystems und die Ausweitung auf Agenten-Standards entwickelt sich Nvidia von einem Hardware-Anbieter zu einer Full-Stack-KI-Ökosystem-Plattform und schafft so die Grundlage, um künftig mehr Software-Umsätze und Ökosystem-Prämien zu erzielen.

Derzeit haben Unternehmen wie Abridge, Amdocs und Box spezialisierte Agenten in ihre Plattformen integriert, während Systemintegratoren wie EY ihre Bereitstellungskapazitäten für Nvidia-Technologien rund um das NeMoClaw-Konzept erweitern, um Kunden bei der Anpassung, Bewertung und Steuerung von Agenten in hochgradig wertschöpfenden Workflows zu unterstützen.

Langfristig zielt der Schritt von Nvidia nicht nur darauf ab, Marktanteile im Zeitalter der Agenten zu erobern, sondern auch darauf, eine unüberwindbare Barriere für sein KI-Ökosystem aufzubauen.

Durch eine Full-Stack-Lösung, die sich durch das Zusammenspiel von Software und Hardware auszeichnet, bindet Nvidia seine Kunden fest an sein Technologie-Ökosystem, festigt seine Schlüsselposition in der KI-Wertschöpfungskette und bereitet sich umfassend auf die bevorstehende Explosion von KI-Anwendungen vor.

Dieser Inhalt wurde KI-übersetzt und von Menschen überprüft. Er dient nur zu Referenz- und Informationszwecken und stellt keine Anlageberatung dar.