Memonto функционирует как промежуточная библиотека для агентов ИИ, управляя всем циклом памяти. Во время каждого этапа разговора он записывает сообщения пользователя и ИИ, выделяет важные детали и создает краткие обзоры. Эти обзоры превращаются в векторные встраивания и хранятся в базах данных или файлах. При создании новых подсказок Memonto выполняет семантические поиски для получения наиболее релевантных исторических воспоминаний, что позволяет агентам сохранять контекст, помнить предпочтения пользователя и предоставлять персонализированные ответы. Поддерживаются разные системы хранения (SQLite, FAISS, Redis), а также предлагаются настраиваемые конвейеры для встраивания, суммирования и поиска. Разработчики могут легко интегрировать Memonto в существующие фреймворки агента, повышая согласованность и долгосрочную вовлеченность.

Langchainrb — это библиотека Ruby с открытым исходным кодом, предназначенная для ускорения разработки приложений с ИИ с помощью модульной архитектуры для агентов, цепочек и инструментов. Разработчики могут определять шаблоны подсказок, собирать цепочки вызовов LLM, интегрировать компоненты памяти для сохранения контекста и подключать пользовательские инструменты, такие как загрузчики документов или поисковые API. Поддерживается генерация встраиваний для семантического поиска, встроенная обработка ошибок и гибкая настройка моделей. Благодаря абстракциям агентов можно реализовать диалоговых помощников, которые решают, какие инструменты или цепочки вызывать в зависимости от входных данных пользователя. Расширяемая архитектура Langchainrb позволяет легко настраивать систему, быстро прототипировать чат-ботов, автоматические системы суммирования, QA-системы и автоматизацию сложных рабочих процессов.

rag-services — это расширяемая платформа, разбивающая пайплайны RAG на отдельные микросервисы. Предоставляет сервис хранения документов, сервис индексирования векторов, сервис embedding, несколько сервисов inference LLM и оркестратор для координации рабочих процессов. Каждый компонент предоставляет REST API, позволяющее сочетать базы данных и поставщиков моделей. Поддержка Docker и Docker Compose позволяет развертывать локально или в кластерах Kubernetes. Фреймворк обеспечивает масштабируемые и отказоустойчивые решения RAG для чатботов, баз знаний и автоматизированных вопросов и ответов.

ragChatbot — это ориентированный на разработчиков каркас, призванный упростить создание чатботов с дополнением поиска. Он интегрирует пайплайны LangChain с API OpenAI или другими LLM для обработки запросов в Пользовательском корпусе документов. Пользователи могут загружать файлы различных форматов (PDF, DOCX, TXT), автоматически извлекать текст и создавать векторные представления с помощью популярных моделей. Фреймворк поддерживает несколько хранилищ векторов, таких как FAISS, Chroma и Pinecone, для эффективного поиска по сходству. Он включает слой памяти для многоборных взаимодействий и модульную архитектуру для настройки шаблонов подсказок и стратегий поиска. С помощью простого интерфейса командной строки или веб-интерфейса можно загружать данные, настраивать параметры поиска и запускать сервер чата для ответов на вопросы с учетом контекста и точности.