OSU NLP Middleware est un framework léger en Python, facilitant le développement de systèmes d’agents IA. Il fournit une boucle principale qui orchestre les interactions entre modèles linguistiques naturels et fonctions d’outils externes définies comme plugins. Le framework supporte des fournisseurs LLM populaires (OpenAI, Hugging Face, etc.) et permet aux développeurs d’enregistrer des outils personnalisés pour des tâches comme les requêtes à des bases de données, la récupération de documents, la recherche Web, le calcul mathématique, et les appels API REST. Middleware gère l’historique des conversations, les limites de débit, et journalise toutes les interactions. Il offre également une mise en cache configurable et des politiques de réessai pour une fiabilité accrue, facilitant la création d’assistants intelligents, chatbots, et workflows autonomes avec un minimum de code standard.

Swarms fonctionne comme un cadre axé sur Python et une interface web, permettant aux utilisateurs de configurer des agents individuels avec des rôles spécifiques, la gestion de la mémoire et des prompts personnalisés. Les utilisateurs définissent les interactions des agents via un éditeur de flux visuel ou une configuration YAML, orchestrant des arbres de décision complexes, des débats et des tâches collaboratives. La plateforme supporte l'intégration de plugins pour l'interrogation de données, l'accès à des bases de connaissances et des API tierces. Après déploiement, Swarms offre une surveillance en temps réel des activités des agents, des métriques de performance et des journaux. Elle se dimensionne horizontalement à l'aide d'outils d'orchestration de containers, permettant des simulations IA à grande échelle, des architectures de contrôle robotique ou des automatisations de workflows intelligents. L'architecture open-source garantit l'extensibilité, les améliorations communautaires et les options d'auto-hébergement pour un contrôle total des données.

Astro Agents offre une architecture modulaire pour créer des agents IA en JavaScript et TypeScript. Les développeurs peuvent enregistrer des outils personnalisés pour la recherche de données, intégrer des magasins de mémoire pour préserver le contexte de la conversation et orchestrer des flux de travail en plusieurs étapes. Il supporte plusieurs fournisseurs LLM tels qu'OpenAI et Hugging Face, et peut être déployé en tant que sites statiques ou fonctions sans serveur. Avec une observabilité intégrée et des plugins extensibles, les équipes peuvent prototyper, tester et faire évoluer des assistants pilotés par l'IA sans coûts d'infrastructure importants.