rag-services est une plateforme extensible qui décompose les pipelines RAG en microservices discrets. Elle offre un service de stockage de documents, un service d'indexation vectorielle, un service d'embedding, plusieurs services d'inférence LLM et un orchestrateur pour coordonner les flux de travail. Chaque composant expose des API REST, vous permettant de mélanger et d'associer bases de données et fournisseurs de modèles. Avec la prise en charge de Docker et Docker Compose, vous pouvez déployer localement ou dans des clusters Kubernetes. Le cadre permet des solutions RAG évolutives et tolérantes aux pannes pour chatbots, bases de connaissances et Q&A automatiques.

Griptape fournit un cadre IA complet qui simplifie le développement et le déploiement d'agents IA. Elle équipe les développeurs d'outils pour la préparation des données (ETL), des services basés sur la récupération (RAG) et la gestion des flux de travail d'agents. La plateforme soutient la création de systèmes IA sécurisés et fiables sans la complexité des cadres IA traditionnels, permettant aux organisations d'exploiter efficacement leurs données pour des applications intelligentes.