IMMA (Интерактивный мультимодальный память-агент) — это модульная структура, предназначенная для повышения эффективности диалогового AI за счет хранения постоянной памяти. Он кодирует текст, изображения и другие данные из прошлых взаимодействий в эффективное хранилище, осуществляет семантический поиск для предоставления релевантного контекста в новых диалогах и использует методы суммирования и фильтрации для сохранения связности. API IMMA позволяют разработчикам задавать собственные политики вставки и поиска памяти, интегрировать мультимодальные встраивания и настраивать агента под задачи конкретной области. Управляя долгосрочным контекстом пользователя, IMMA поддерживает сценарии, требующие преемственности, персонализации и многоэтапного рассуждения в продолжительных сессиях.

ThinkThread позволяет разработчикам добавлять постоянную память в приложения, основанные на ChatGPT. Он кодирует каждую обмен информацией с помощью Sentence Transformers и сохраняет векторные представления в популярных хранилищах. При каждом новом пользовательском вводе ThinkThread выполняет семанический поиск, чтобы найти наиболее релевантные прошлые сообщения, которые затем добавляются как контекст в запрос. Этот процесс обеспечивает последовательность, снижает затраты на проектирование prompting и позволяет ботам запоминать долгосрочные детали, такие как предпочтения пользователя, история транзакций или проектная информация.