IMMA（インタラクティブ・マルチモーダル・メモリー・エージェント）は、持続可能な記憶を持つ会話用AIを強化するためのモジュール式フレームワークです。過去の対話からのテキスト、画像、その他のデータを効率的なメモリストアにエンコードし、意味的検索を行って新しい対話中に関連するコンテキストを提供し、要約とフィルタリング技術を適用して一貫性を維持します。IMMAのAPIにより、開発者はカスタムメモリ挿入と検索ポリシーを定義し、マルチモーダル埋め込みを統合し、ドメイン固有のタスクにエージェントを微調整できます。長期的なユーザーコンテキスト管理により、連続性、パーソナライズ、長時間にわたる多ターン推論を必要とするケースをサポートします。

ThinkThreadは、開発者がChatGPT駆動のアプリケーションに永続的なメモリを追加することを可能にします。各やり取りをSentence Transformersでエンコードし、人気のあるベクトルストアに埋め込みを保存します。新しいユーザー入力ごとに、セマンティックサーチを実行して最も関連性の高い過去のメッセージを取得し、プロンプトのコンテキストとして挿入します。このプロセスは、連続性を確保し、プロンプトエンジニアリングの労力を削減し、ユーザープリファレンスや取引履歴、プロジェクト固有の情報など長期記憶を可能にします。