LlamaIndex Supervisorは、LlamaIndex上に構築されたAIエージェントを作成・実行・監視するためのPythonフレームワークです。検索、要約、カスタム処理などのワークフローノードを定義し、それらをグラフ状に繋ぐツールを提供します。Supervisorは各ステップを監視し、スキーマに沿った出力の検証やエラー時のリトライ、メトリクスの記録を行います。これにより、堅牢で再現性のあるパイプラインを実現し、検索付加生成、ドキュメントQA、データ抽出など多様なタスクに対応します。

AgentGatewayは、マルチエージェントAIアプリケーションの作成に焦点を当てた開発者向け環境を提供します。分散型エージェントオーケストレーション、プラグイン統合、安全なアクセス制御をサポートします。ベクトルデータベース、REST/gRPC API、SlackやNotionなどの一般的なサービス向けのビルトインコネクタを備え、エージェントは独立してドキュメント問い合わせ、ビジネスロジック実行、応答生成が可能です。監視、ロギング、ロールベースのアクセス制御を含み、企業全体でスケーラブルで監査可能なAIソリューションの展開を容易にします。