Los costos de inferencia se desploman un 90%. Nvidia se asocia con LangChain para definir los estándares de agentes, apoderándose del nuevo punto de entrada para las aplicaciones de IA

En lugar de enfatizar "qué tareas puede realizar un Agente", la solución introducida por NVIDIA esta vez se centra más en cómo se gobiernan, supervisan, auditan y optimizan continuamente los Agentes. Esta capacidad es especialmente crítica para industrias altamente reguladas como las finanzas, la atención médica y el sector gubernamental, y también reduce el umbral para que las empresas desplieguen Agentes a gran escala.

Harrison Chase, cofundador y CEO de LangChain, señaló: "La clave para crear mejores agentes es la mejora continua de los sistemas que rodean a los modelos. Cuando los equipos pueden ajustar simultáneamente la memoria, el uso de herramientas, la evaluación y el comportamiento del modelo, estas capacidades generan efectos sinérgicos. Nuestra colaboración con NVIDIA demuestra que las empresas no solo pueden lograr un rendimiento potente a través de una pila abierta, sino también mantener el control sobre los sistemas de agentes que construyen".

A medida que los Agentes asumen tareas de riesgo cada vez más alto, pasando de ser asistentes que responden preguntas a ejecutores capaces de tomar medidas dentro de los sistemas principales, las exigencias de las empresas en cuanto a la controlabilidad y seguridad de los sistemas de IA están aumentando.

La arquitectura abierta que proporciona el diseño de NeMo Guardrails permite a las empresas poseer la pila tecnológica completa de extremo a extremo, lo que les permite personalizar y mejorar continuamente en función de sus ventajas profesionales únicas, y ejecutar en cualquier entorno, incluidos su propia infraestructura, nubes privadas y marcos de gobernanza propios.

El control de costos siempre ha sido el cuello de botella principal para la comercialización a gran escala de la IA, y el diseño de NeMoClaw demuestra una ventaja significativa en este sentido.

Según los datos de evaluación publicados por LangChain, el modelo Nemotron 3 Ultra, equipado con la suite Deep Agents, logró una puntuación integral de 0.86, con un costo de inferencia por tarea única de solo 4.48 dólares, mientras que el modelo de la competencia más cercano costaba hasta 43.48 dólares, lo que representa una reducción de aproximadamente el 90%. Este logro no se debió al reentrenamiento del modelo en sí, sino que se consiguió optimizando las estrategias de llamada a herramientas, los mecanismos de gestión del contexto y los flujos de trabajo de razonamiento intermedio.

A nivel de hardware, la arquitectura Blackwell de Nvidia ya ha reducido el costo de inferencia por token individual a aproximadamente 1/35 de la plataforma de la generación anterior a través de actualizaciones arquitectónicas, mejorando sustancialmente la eficiencia del rendimiento de inferencia.

El diseño de NeMoClaw aprovecha aún más el potencial del hardware desde el nivel de software. A través de la optimización sistemática de la planificación de tareas de los agentes, las llamadas a herramientas, la gestión del contexto y las rutas de razonamiento, permite que la misma potencia de cálculo admita más tareas, logrando la máxima eficiencia mediante la sinergia entre software y hardware.

Este lanzamiento es un paso clave para Nvidia en el perfeccionamiento de su ecosistema de software NeMo, llenando un vacío en la capa de desarrollo de agentes. En los últimos años, Nvidia ha creado una pila de software de IA completa en torno a CUDA, TensorRT, NIM y NeMo, con el objetivo de convertirse en una plataforma de enlace completo que abarque el entrenamiento de modelos, el despliegue de inferencias y el desarrollo de aplicaciones empresariales.

A medida que los agentes se convierten en el vehículo principal para las aplicaciones de IA, los marcos de desarrollo están emergiendo como las nuevas puertas de acceso al ecosistema. La alianza con LangChain permite a Nvidia integrar sus capacidades en los flujos de trabajo de IA empresarial a través de los marcos de trabajo convencionales, compitiendo por el dominio en la era de los agentes más allá de la mera infraestructura.

Para los mercados de capitales, este diseño estratégico es de gran importancia. La competencia actual en la infraestructura de IA está madurando, y depender únicamente de las ventas de GPU dificulta sostener la expansión de las valoraciones, mientras que los servicios de software y plataformas ofrecen mayores márgenes brutos y fidelidad de los clientes.

Al perfeccionar el ecosistema NeMo y expandirse hacia los estándares de agentes, Nvidia está evolucionando de ser un proveedor de hardware a una plataforma de ecosistema de IA de pila completa, sentando las bases para capturar más ingresos por software y primas de ecosistema en el futuro.

Actualmente, empresas como Abridge, Amdocs y Box han integrado agentes especializados en sus plataformas, mientras que integradores de sistemas como EY están expandiendo sus capacidades de despliegue de tecnología de Nvidia en torno al diseño de NeMoClaw para ayudar a los clientes a personalizar, evaluar y gobernar agentes dentro de flujos de trabajo de alto valor.

A largo plazo, el movimiento de Nvidia no solo tiene como objetivo capturar cuota de mercado en la era de los agentes, sino también construir una barrera de ecosistema de IA inquebrantable.

A través de una solución de pila completa que presenta una sinergia entre software y hardware, Nvidia está fidelizando firmemente a los clientes dentro de su ecosistema tecnológico, consolidando su posición central en la cadena de la industria de la IA y preparándose por completo para la próxima explosión de las aplicaciones de IA.

Este contenido ha sido traducido por IA y revisado por humanos. Se ofrece solo con fines de referencia e información general, y no constituye asesoramiento en materia de inversión.