Granite Retrieval Agentは、意味的検索と大規模言語モデルを組み合わせたリトリーバル強化生成AIエージェントを構築するための柔軟なプラットフォームを提供します。ユーザーは様々なソースからドキュメントを取り込み、ベクトル埋め込みを作成し、Azure Cognitive Searchインデックスや代替のベクターストアを設定できます。クエリが到達すると、エージェントは最も関連性の高いパッセージを検索し、コンテキストウィンドウを構築し、LLM APIを呼び出して正確な回答や要約を行います。メモリ管理、思考の連鎖、カスタムプラグインによる前後処理もサポートし、Dockerや直接Pythonから展開可能です。これにより、ナレッジ駆動型のチャットボット、エンタープライズアシスタント、Q&Aシステムの迅速な開発が促進され、誤認識を防ぎ、事実の正確性を向上させます。

HyperCrawlは、LLM（言語学習モデル）開発のためのデータ取得を最適化するように設計された最先端のウェブクローリングツールです。レイテンシを大幅に削減することで、オンラインデータの迅速な抽出を可能にし、開発者が計算負荷の高いトレーニングプロセスへの依存を減らしながら、取得ファーストのAIアプリケーションやモデルを構築することを促進します。これは、迅速かつ効率的なデータ収集を必要とするAIおよび機械学習愛好者にとって不可欠なツールです。

LLM Functionsは、大規模言語モデルの応答と実際のコード実行をつなぐシンプルなフレームワークです。JSONスキーマを用いて関数を定義し、ライブラリに登録すると、LLMが適切なときに構造化された関数呼び出しを返します。ライブラリはそれらの応答を解析し、パラメータを検証し、正しいハンドラーを呼び出します。同期・非同期のコールバックやカスタムエラー処理、プラグイン拡張をサポートし、動的なデータ検索、外部API呼び出し、複雑なビジネスロジックをAI駆動の会話内に必要とするアプリケーションに最適です。