基本的に、Memaryは大規模言語モデルエージェント専用に調整されたモジュール式のメモリ管理システムを提供します。共通APIを通じてメモリの操作を抽象化し、インメモリ辞書、Redisの分散キャッシュ、PineconeやFAISSなどのベクトルストアによる意味検索をサポートします。ユーザーはスキーマベースのメモリ（エピソード記憶、意味記憶、長期記憶）を定義し、埋め込みモデルを活用して自動的にベクトルストアを構築します。検索機能により、会話中に関連するコンテキストを呼び出し、過去のやり取りやドメイン固有のデータを用いた応答を向上させます。拡張性を考慮して設計されたMemaryは、カスタムメモリバックエンドや埋め込み関数の統合も可能であり、継続的な知識を必要とする堅牢で状態を持つAIアプリケーションの開発に最適です。

MemontoはAIエージェント向けのミドルウェアライブラリとして、完全なメモリーライフサイクルを調整します。各会話ターンで、ユーザとAIのメッセージを記録し、重要な詳細を抽出し、コンパクトな概要を生成します。これらの概要は埋め込みに変換され、ベクトルデータベースやファイルベースのストアに保存されます。新しいプロンプトを構築する際、Memontoは意味的検索を行い、最も関連性の高い過去の記憶を取得し、コンテキストを維持し、ユーザの好みを思い出し、パーソナライズされた応答を可能にします。SQLite、FAISS、Redisなどの複数のストレージバックエンドをサポートし、埋め込み、概要化、検索のための設定可能なパイプラインを提供します。開発者は既存のエージェントフレームワークにMemontoをシームレスに統合でき、コヒーレンスと長期的なエンゲージメントを向上させます。

GenAI Processorsは、再利用可能で構成可能なプロセッサライブラリを提供し、エンドツーエンドの生成AIワークフローを構築します。文書の取り込み、意味的なチャンクへの分割、埋め込みの生成、ベクトルの保存とクエリ、検索戦略の適用、大規模言語モデル呼び出しのための動的プロンプトの構築が可能です。そのプラグアンドプレイ設計により、カスタム処理ステップの拡張やGoogle Cloudサービスまたは外部ベクトルストアとのシームレスな統合、質問応答、要約、知識検索などの複雑なRAGパイプラインのオーケストレーションが容易になります。