LangGraph-Chatchatは、LangGraphのグラフデータベースモデルを利用して会話のコンテキストを保存・取得する、ChatChat会話フレームワーク向けのメモリ管理プラグインです。動作中にユーザー入力とエージェントの応答は意味ノードに変換され、関係性とともに知識グラフを形成します。この構造により、過去の会話を類似度指標、キーワード、またはカスタムフィルターを用いて効率的にクエリできます。プラグインは、メモリの永続性、ノードのマージ、TTLポリシーの設定をサポートし、Relevantなコンテキストを適切に保持します。内蔵のシリアライザとアダプタを備え、ChatChat展開にシームレスに統合され、長期記憶の維持、応答の適切さ向上、複雑なダイアログフローの処理を可能にします。

LLM駆動のRAGシステムは、リクエストに応じた関連コンテキストを取得し、埋め込みコレクションのモジュール、FAISS、Pinecone、Weaviateによるインデックス付け、リアルタイムのコンテキスト検索を提供する開発者向けのフレームワークです。LangChainラッパーを使ってLLM呼び出しを調整し、プロンプトテンプレート、ストリーミング応答、多ベクトルストアアダプターをサポートします。知識ベースのエンドツーエンドの展開を簡素化し、埋め込みモデルの設定からプロンプト設計、結果後処理までカスタマイズ可能です。

RAGAppは、FAISS、Pinecone、Chroma、Qdrantなどの人気ベクターデータベースや、OpenAI、Anthropic、Hugging Faceなどの大規模言語モデルとの即時利用可能な統合を提供し、RAGパイプライン全体を簡素化します。ドキュメントを埋め込みに変換するデータ取り込みツール、正確な知識選択を可能にするコンテキスト認識型検索メカニズム、展開用のチャットUIまたはREST APIサーバーを備えます。開発者は、カスタムプリプロセッサの追加、外部APIのツール化、LLMプロバイダーの差し替えなど、任意のコンポーネントを容易に拡張または置き換え可能で、DockerやCLIツールを使った高速プロトタイピングと本番展開を実現します。