rag-services es una plataforma extensible que descompone las pipelines RAG en microservicios discretos. Ofrece un servicio de almacenamiento de documentos, un servicio de indexación vectorial, un servicio de embedding, múltiples servicios de inferencia LLM y un orquestador para coordinar los flujos de trabajo. Cada componente expone APIs REST, permitiéndote mezclar y combinar bases de datos y proveedores de modelos. Con soporte para Docker y Docker Compose, puedes desplegar localmente o en clústeres Kubernetes. El framework habilita soluciones RAG escalables y tolerantes a fallos para chatbots, bases de conocimientos y Q&A automáticos.

SmartRAG es una biblioteca modular en Python diseñada para flujos de trabajo de generación aumentada por recuperación (RAG) con grandes modelos de lenguaje. Combina ingesta de documentos, indexación vectorial y APIs de LLM de última generación para ofrecer respuestas precisas y ricas en contexto. Los usuarios pueden importar archivos PDF, archivos de texto o páginas web, indexarlos usando almacenes vectoriales populares como FAISS o Chroma, y definir plantillas de indicaciones personalizadas. SmartRAG orquesta la recuperación, la composición de indicaciones y la inferencia de LLM, devolviendo respuestas coherentes fundamentadas en documentos fuente. Al abstraer la complejidad de los pipelines RAG, acelera el desarrollo de sistemas de preguntas y respuestas para bases de conocimiento, chatbots y asistentes de investigación. Los desarrolladores pueden extender conectores, cambiar proveedores de LLM y ajustar estrategias de recuperación para adaptarse a dominios específicos de conocimiento.