OmniStewardはPythonを基盤としたモジュール式のAIエージェントオーケストレーションプラットフォームで、OpenAI、ローカルのLLMに接続し、カスタムモデルもサポートします。コンテキストを保存するためのメモリモジュール、API呼び出し、ウェブ検索、コード実行、データベースクエリのためのツールキットを提供します。ユーザーはプロンプト、ワークフロー、トリガーを含むエージェントテンプレートを定義します。フレームワークは複数のエージェントを並行してオーケストレーションし、会話履歴を管理し、パイプラインを通じてタスクを自動化します。加えて、ロギング、モニタリングダッシュボード、プラグインアーキテクチャ、サードパーティサービスとの連携も含まれます。OmniStewardは研究、運用、マーケティングなどのドメイン専用アシスタント作成を容易にし、柔軟性、拡張性、オープンソースの透明性を提供します。

Granite Retrieval Agentは、意味的検索と大規模言語モデルを組み合わせたリトリーバル強化生成AIエージェントを構築するための柔軟なプラットフォームを提供します。ユーザーは様々なソースからドキュメントを取り込み、ベクトル埋め込みを作成し、Azure Cognitive Searchインデックスや代替のベクターストアを設定できます。クエリが到達すると、エージェントは最も関連性の高いパッセージを検索し、コンテキストウィンドウを構築し、LLM APIを呼び出して正確な回答や要約を行います。メモリ管理、思考の連鎖、カスタムプラグインによる前後処理もサポートし、Dockerや直接Pythonから展開可能です。これにより、ナレッジ駆動型のチャットボット、エンタープライズアシスタント、Q&Aシステムの迅速な開発が促進され、誤認識を防ぎ、事実の正確性を向上させます。