rag-services es una plataforma extensible que descompone las pipelines RAG en microservicios discretos. Ofrece un servicio de almacenamiento de documentos, un servicio de indexación vectorial, un servicio de embedding, múltiples servicios de inferencia LLM y un orquestador para coordinar los flujos de trabajo. Cada componente expone APIs REST, permitiéndote mezclar y combinar bases de datos y proveedores de modelos. Con soporte para Docker y Docker Compose, puedes desplegar localmente o en clústeres Kubernetes. El framework habilita soluciones RAG escalables y tolerantes a fallos para chatbots, bases de conocimientos y Q&A automáticos.

Griptape proporciona un marco de IA integral que simplifica el desarrollo y despliegue de agentes de IA. Le proporciona a los desarrolladores herramientas para la preparación de datos (ETL), servicios basados en recuperación (RAG) y gestión de flujos de trabajo de agentes. La plataforma admite la construcción de sistemas de IA seguros y confiables sin las complejidades de los marcos de IA tradicionales, permitiendo a las organizaciones aprovechar sus datos de manera efectiva para aplicaciones inteligentes.