Agent Control Planeは、設計、オーケストレーション、大規模運用のための中央コントロールプレーンを提供します。開発者は宣言的定義によりエージェントの動作を設定し、外部サービスやAPIをツールとして統合、複数ステップのワークフローを連係させることができます。DockerやKubernetesでのコンテナ化展開に対応し、ウェブベースのダッシュボードを通じてリアルタイムの監視やロギング、メトリクス追跡を行います。CLIとREST APIは自動化をサポートし、スムーズな反復、バージョン管理、構成のロールバックを可能にします。拡張性の高いプラグインアーキテクチャとスケーラビリティにより、Agent Control Planeはローカルテストから企業規模の本番環境までAIエージェントのライフサイクルを加速します。

rag-servicesは、RAGパイプラインを個別のマイクロサービスに分解する拡張可能なプラットフォームです。ドキュメントストアサービス、ベクトルインデックスサービス、エンベディング生成サービス、複数のLLM推論サービスと、ワークフローを調整するオーケストレータを提供します。各コンポーネントはREST APIを公開し、データベースやモデルプロバイダーを組み合わせることが可能です。DockerとDocker Composeをサポートし、ローカルまたはKubernetesクラスターに展開できます。このフレームワークは、チャットボット、ナレッジベース、自動ドキュメントQ&Aのためのスケーラブルでフォールトトレラントなソリューションを提供します。