ChainLite rationalise la création d’agents IA en abstraisant la complexité de l’orchestration LLM en modules de chaînes réutilisables. À l’aide de décorateurs Python simples et de fichiers de configuration, les développeurs définissent les comportements des agents, les interfaces d’outils et les structures de mémoire. Le framework s’intègre aux fournisseurs LLM populaires (OpenAI, Cohere, Hugging Face) et aux sources de données externes (API, bases de données), permettant aux agents de récupérer des informations en temps réel. Avec une interface utilisateur basée sur le navigateur intégrée, alimentée par Streamlit, les utilisateurs peuvent inspecter l’historique des conversations au niveau des jetons, déboguer les invites et visualiser les graphes d’exécution de la chaîne. ChainLite prend en charge plusieurs cibles de déploiement, du développement local à la production en conteneurs, permettant une collaboration fluide entre data scientists, ingénieurs et équipes produit.

Le cadre Controllable RAG offre une approche modulaire pour construire des systèmes de génération augmentée par récupération. Il permet de configurer et de chaîner les composants de récupération, les modules de mémoire et les stratégies de génération. Les développeurs peuvent brancher différents LLM, bases de données vectorielles et contrôleurs de politique pour ajuster la façon dont les documents sont récupérés et traités avant la génération. Basé sur Python, il comprend des utilitaires pour l'indexation, les requêtes, le suivi de l'historique de conversation et les flux de contrôle basés sur des actions, ce qui le rend idéal pour les chatbots, les assistants de connaissance et les outils de recherche.