Nestorは会話状態を維持し、外部ツールを呼び出し、処理パイプラインをカスタマイズできるモジュール式のアーキテクチャを提供します。主な特徴には、セッションベースのメモリストア、ツール関数またはプラグインの登録用レジストリ、柔軟なプロンプトテンプレート、一元化されたLLMクライアントインターフェースが含まれます。エージェントは逐次タスクを実行したり、意思決定の分岐を行ったり、REST APIやローカルスクリプトと連携できます。Nestorはフレームワークに依存しない設計で、OpenAI、Azure、またはセルフホスト型のLLM提供者と連携できます。

Granite Retrieval Agentは、意味的検索と大規模言語モデルを組み合わせたリトリーバル強化生成AIエージェントを構築するための柔軟なプラットフォームを提供します。ユーザーは様々なソースからドキュメントを取り込み、ベクトル埋め込みを作成し、Azure Cognitive Searchインデックスや代替のベクターストアを設定できます。クエリが到達すると、エージェントは最も関連性の高いパッセージを検索し、コンテキストウィンドウを構築し、LLM APIを呼び出して正確な回答や要約を行います。メモリ管理、思考の連鎖、カスタムプラグインによる前後処理もサポートし、Dockerや直接Pythonから展開可能です。これにより、ナレッジ駆動型のチャットボット、エンタープライズアシスタント、Q&Aシステムの迅速な開発が促進され、誤認識を防ぎ、事実の正確性を向上させます。