ChainLite rationalise la création d’agents IA en abstraisant la complexité de l’orchestration LLM en modules de chaînes réutilisables. À l’aide de décorateurs Python simples et de fichiers de configuration, les développeurs définissent les comportements des agents, les interfaces d’outils et les structures de mémoire. Le framework s’intègre aux fournisseurs LLM populaires (OpenAI, Cohere, Hugging Face) et aux sources de données externes (API, bases de données), permettant aux agents de récupérer des informations en temps réel. Avec une interface utilisateur basée sur le navigateur intégrée, alimentée par Streamlit, les utilisateurs peuvent inspecter l’historique des conversations au niveau des jetons, déboguer les invites et visualiser les graphes d’exécution de la chaîne. ChainLite prend en charge plusieurs cibles de déploiement, du développement local à la production en conteneurs, permettant une collaboration fluide entre data scientists, ingénieurs et équipes produit.

Le cadre Controllable RAG offre une approche modulaire pour construire des systèmes de génération augmentée par récupération. Il permet de configurer et de chaîner les composants de récupération, les modules de mémoire et les stratégies de génération. Les développeurs peuvent brancher différents LLM, bases de données vectorielles et contrôleurs de politique pour ajuster la façon dont les documents sont récupérés et traités avant la génération. Basé sur Python, il comprend des utilitaires pour l'indexation, les requêtes, le suivi de l'historique de conversation et les flux de contrôle basés sur des actions, ce qui le rend idéal pour les chatbots, les assistants de connaissance et les outils de recherche.

MAGI (Modular AI Generative Intelligence) est un cadre open-source conçu pour simplifier la création et la gestion d'agents IA. Il offre une architecture de plugins pour l'intégration d'outils personnalisés, des modules de mémoire persistante, la planification par chaînes de pensée, et l'orchestration en temps réel de flux de travail en plusieurs étapes. Les développeurs peuvent enregistrer des APIs externes ou des scripts locaux en tant qu'outils d'agent, configurer des backends de mémoire, et définir des politiques de tâches. La conception extensible de MAGI supporte à la fois les tâches synchrones et asynchrones, ce qui le rend idéal pour les chatbots, les pipelines d'automatisation, et les prototypes de recherche.