Granite Retrieval Agentは、意味的検索と大規模言語モデルを組み合わせたリトリーバル強化生成AIエージェントを構築するための柔軟なプラットフォームを提供します。ユーザーは様々なソースからドキュメントを取り込み、ベクトル埋め込みを作成し、Azure Cognitive Searchインデックスや代替のベクターストアを設定できます。クエリが到達すると、エージェントは最も関連性の高いパッセージを検索し、コンテキストウィンドウを構築し、LLM APIを呼び出して正確な回答や要約を行います。メモリ管理、思考の連鎖、カスタムプラグインによる前後処理もサポートし、Dockerや直接Pythonから展開可能です。これにより、ナレッジ駆動型のチャットボット、エンタープライズアシスタント、Q&Aシステムの迅速な開発が促進され、誤認識を防ぎ、事実の正確性を向上させます。

Semantic Kernel Copilot Demoは、MicrosoftのSemantic Kernelフレームワークを用いて高度なAIエージェントを構築するエンドツーエンドのリファレンスアプリケーションです。多段階推論のためのプロンプトチェーン、セッション間のコンテキストを思い出すメモリ管理、外部APIとの連携を可能にするプラグインベースのスキルアーキテクチャを備えています。開発者はAzure OpenAIやOpenAIモデルのコネクタを設定し、カスタムプロンプトテンプレートを定義し、カレンダーアクセスやファイル操作、データ取得といったドメイン固有のスキルを実装できます。これらのコンポーネントを調整して、ユーザーの意図を理解し、タスクを実行し、時間を経てもコンテキストを維持できる会話型コパイロットを作り、パーソナライズされたAIアシスタントの迅速な開発を促進します。

SimplerLLMは、開発者に対してLLMチェーンの構築、エージェントアクションの定義、およびツール呼び出しのオーケストレーションを行うための最小限のAPIを提供します。メモリ保持、プロンプトテンプレート、および出力パース用の組み込み抽象化により、ユーザーはコンテキストを維持する会話エージェントを素早く組み立てることができます。フレームワークはOpenAI、Azure、HuggingFaceモデルとシームレスに連携し、検索、計算機、カスタムAPIのプラグインツールキットもサポートします。その軽量コアは依存関係を最小化し、クラウドやエッジ上での俊敏な開発と簡単な展開を可能にします。チャットボット、QAアシスタント、タスク自動化などを構築する際に、SimplerLLMはエンドツーエンドのLLMエージェントパイプラインをシンプルにします。