rag-services — это расширяемая платформа, разбивающая пайплайны RAG на отдельные микросервисы. Предоставляет сервис хранения документов, сервис индексирования векторов, сервис embedding, несколько сервисов inference LLM и оркестратор для координации рабочих процессов. Каждый компонент предоставляет REST API, позволяющее сочетать базы данных и поставщиков моделей. Поддержка Docker и Docker Compose позволяет развертывать локально или в кластерах Kubernetes. Фреймворк обеспечивает масштабируемые и отказоустойчивые решения RAG для чатботов, баз знаний и автоматизированных вопросов и ответов.

Griptape предоставляет комплексную AI-структуру, которая упрощает разработку и развертывание AI-агентов. Она обеспечивает разработчиков инструментами для подготовки данных (ETL), служб на основе извлечения (RAG) и управления рабочими потоками агентов. Платформа поддерживает создание безопасных, надежных AI-систем без сложностей традиционных AI-структур, позволяя организациям эффективно использовать свои данные для интеллектуальных приложений.