rag-servicesは、RAGパイプラインを個別のマイクロサービスに分解する拡張可能なプラットフォームです。ドキュメントストアサービス、ベクトルインデックスサービス、エンベディング生成サービス、複数のLLM推論サービスと、ワークフローを調整するオーケストレータを提供します。各コンポーネントはREST APIを公開し、データベースやモデルプロバイダーを組み合わせることが可能です。DockerとDocker Composeをサポートし、ローカルまたはKubernetesクラスターに展開できます。このフレームワークは、チャットボット、ナレッジベース、自動ドキュメントQ&Aのためのスケーラブルでフォールトトレラントなソリューションを提供します。

UltiHash は生成 AI、モデルトレーニング、検索強化生成、およびデータレイクハウス環境などの AI ワークロード専用に設計された高性能な S3 互換オブジェクトストレージプラットフォームです。大規模な構造化および非構造化データを最適化されたスループット、バイナリレベルの重複排除、Kubernetes ネイティブの展開オプションで管理し、GPU/TPU の効率を向上させ、ストレージコストを削減します。