Lors du GTC 2026, le PDG de NVIDIA Jensen Huang a présenté le rack d'inférence dédié Groq 3 LPX, les extensions de la plateforme Vera Rubin, les garde-fous pour agents IA NemoClaw et une prévision de demande en puces IA de 1 000 milliards de dollars d'ici 2027, signant l'ambition de NVIDIA de contrôler l'ensemble de la pile d'infrastructure IA.

Modal Labs est en discussions avec General Catalyst pour un nouveau tour à une valorisation de 2,5 milliards de dollars, reflétant l'intérêt croissant des investisseurs pour l'infrastructure d'inférence IA.

Les prévisions technologiques pour 2026 indiquent un basculement majeur de l'entraînement des modèles d'IA vers l'inférence comme facteur différenciateur clé. Cela obligera les entreprises à adopter des infrastructures ouvertes et des plans de contrôle unifiés comme Kubernetes pour gagner les « guerres de l'inférence » et offrir des expériences IA locales plus rapides.