rag-servicesは、RAGパイプラインを個別のマイクロサービスに分解する拡張可能なプラットフォームです。ドキュメントストアサービス、ベクトルインデックスサービス、エンベディング生成サービス、複数のLLM推論サービスと、ワークフローを調整するオーケストレータを提供します。各コンポーネントはREST APIを公開し、データベースやモデルプロバイダーを組み合わせることが可能です。DockerとDocker Composeをサポートし、ローカルまたはKubernetesクラスターに展開できます。このフレームワークは、チャットボット、ナレッジベース、自動ドキュメントQ&Aのためのスケーラブルでフォールトトレラントなソリューションを提供します。