En el GTC 2026, el CEO de NVIDIA, Jensen Huang, presentó el rack de inferencia dedicado Groq 3 LPX, las expansiones de la plataforma Vera Rubin, las protecciones para agentes IA NemoClaw y una previsión de demanda de chips de IA de 1 billón de dólares hasta 2027, señalando la apuesta de NVIDIA por controlar toda la pila de infraestructura de IA.
Modal Labs está en conversaciones con General Catalyst para una nueva ronda con una valoración de 2.500 millones de dólares, reflejando el creciente interés de los inversores en la infraestructura de inferencia de IA.
Las predicciones tecnológicas para 2026 indican un cambio importante del entrenamiento de modelos de IA hacia la inferencia como factor diferenciador clave. Esto obligará a las empresas a adoptar infraestructuras abiertas y planos de control unificados como Kubernetes para ganar las 'guerras de inferencia' y ofrecer experiencias de IA locales más rápidas.
