Steel est un cadre centré sur le développeur, conçu pour accélérer la création et le fonctionnement d'agents alimentés par LLM en environnement de production. Il offre des connecteurs indépendants du fournisseur pour les principales API de modèles, un magasin de mémoire en mémoire et persistant, des modèles d'invocation d'outils intégrés, une mise en cache automatique des réponses et un traçage détaillé pour l'observabilité. Les développeurs peuvent définir des flux de travail complexes pour les agents, intégrer des outils personnalisés (par exemple, recherche, requêtes de bases de données et API externes) et gérer les sorties en streaming. Steel abstrait la complexité de l'orchestration, permettant aux équipes de se concentrer sur la logique métier et d'itérer rapidement sur des applications alimentées par l'IA.

GAMA Genstar Plugin ajoute des capacités d'IA générative à la plateforme GAMA via des connecteurs vers OpenAI, des LLM locaux, et des points de terminaison de modèles personnalisés. Les utilisateurs définissent des invites et des pipelines dans GAML pour générer des décisions d'agents, des descriptions d'environnement ou des paramètres de scénarios à la volée. Le plugin supporte les appels API synchrones et asynchrones, la mise en cache des réponses, et l'ajustement des paramètres. Il facilite l'intégration des modèles en langage naturel dans des simulations à grande échelle, réduisant la script manuelle et favorisant des comportements d'agents plus riches et adaptatifs.

Les LLMs offrent une abstraction unifiée pour divers modèles linguistiques open source et hébergés, permettant aux développeurs de charger et d'exécuter des modèles via une seule interface. Il supporte la découverte de modèles, la gestion des invites et des pipelines, le traitement en lot, ainsi que le contrôle précis des tokens, de la température et du streaming. Les utilisateurs peuvent facilement changer entre les backends CPU et GPU, s'intégrer à des hôtes de modèles locaux ou distants, et mettre en cache les réponses pour améliorer la performance. Le framework inclut des utilitaires pour les modèles d'invite, l'analyse des réponses et le benchmarking des performances des modèles. En découplant la logique de l'application de l'implémentation spécifique au modèle, LLMs accélère le développement d'applications NLP telles que chatbots, génération de texte, synthèse, traduction, etc., sans verrouillage fournisseur ou API propriétaire.