SmartRAG est une bibliothèque Python modulaire conçue pour les workflows de génération augmentée par récupération (RAG) avec de grands modèles de langage. Elle combine l'ingestion de documents, l'indexation vectorielle et des API LLM de pointe pour fournir des réponses précises et riches en contexte. Les utilisateurs peuvent importer des PDFs, des fichiers texte ou des pages web, les indexer en utilisant des magasins vectoriels populaires comme FAISS ou Chroma, et définir des modèles de prompts personnalisés. SmartRAG orchestre la récupération, la composition des prompts et l'inférence LLM, renvoyant des réponses cohérentes basées sur les documents sources. En abstraisant la complexité des pipelines RAG, il accélère le développement de systèmes de questions-réponses, de chatbots et d'assistants de recherche. Les développeurs peuvent étendre les connecteurs, échanger les fournisseurs LLM et affiner les stratégies de récupération pour s'adapter à des domaines de connaissance spécifiques.

Steel est un cadre centré sur le développeur, conçu pour accélérer la création et le fonctionnement d'agents alimentés par LLM en environnement de production. Il offre des connecteurs indépendants du fournisseur pour les principales API de modèles, un magasin de mémoire en mémoire et persistant, des modèles d'invocation d'outils intégrés, une mise en cache automatique des réponses et un traçage détaillé pour l'observabilité. Les développeurs peuvent définir des flux de travail complexes pour les agents, intégrer des outils personnalisés (par exemple, recherche, requêtes de bases de données et API externes) et gérer les sorties en streaming. Steel abstrait la complexité de l'orchestration, permettant aux équipes de se concentrer sur la logique métier et d'itérer rapidement sur des applications alimentées par l'IA.