Granite Retrieval Agentは、意味的検索と大規模言語モデルを組み合わせたリトリーバル強化生成AIエージェントを構築するための柔軟なプラットフォームを提供します。ユーザーは様々なソースからドキュメントを取り込み、ベクトル埋め込みを作成し、Azure Cognitive Searchインデックスや代替のベクターストアを設定できます。クエリが到達すると、エージェントは最も関連性の高いパッセージを検索し、コンテキストウィンドウを構築し、LLM APIを呼び出して正確な回答や要約を行います。メモリ管理、思考の連鎖、カスタムプラグインによる前後処理もサポートし、Dockerや直接Pythonから展開可能です。これにより、ナレッジ駆動型のチャットボット、エンタープライズアシスタント、Q&Aシステムの迅速な開発が促進され、誤認識を防ぎ、事実の正確性を向上させます。

AgentRailsは、Rails開発者が大規模言語モデルを活用した自然言語理解と生成を担当するインテリジェントエージェントを構築できるようにします。開発者はカスタムツールやワークフローを定義し、リクエスト間で会話状態を維持し、Railsのコントローラーやビューとシームレスに統合できます。OpenAIなどのプロバイダーのAPI呼び出しを抽象化し、チャットボットからコンテンツジェネレーターまでAI駆動の機能の迅速なプロトタイピングを可能にし、設定やデプロイにはRailsの規約を尊重します。

Nestorは会話状態を維持し、外部ツールを呼び出し、処理パイプラインをカスタマイズできるモジュール式のアーキテクチャを提供します。主な特徴には、セッションベースのメモリストア、ツール関数またはプラグインの登録用レジストリ、柔軟なプロンプトテンプレート、一元化されたLLMクライアントインターフェースが含まれます。エージェントは逐次タスクを実行したり、意思決定の分岐を行ったり、REST APIやローカルスクリプトと連携できます。Nestorはフレームワークに依存しない設計で、OpenAI、Azure、またはセルフホスト型のLLM提供者と連携できます。