Granite Retrieval Agent предоставляет разработчикам гибкую платформу для создания генеративных AI-агентов с повышенной точностью, объединяющих семантический поиск и большие языковые модели. Пользователи могут внедрять документы из разнообразных источников, создавать векторные вкрапления и настраивать индексы Azure Cognitive Search или другие хранилища векторов. При поступлении запроса агент извлекает наиболее релевантные отрывки, создает контекстные окна и вызывает API LLM для получения точных ответов или сводок. Поддерживается управление памятью, оркестрация цепочек мышления и пользовательские плагины для пред- и пост-обработки. Возможна установка через Docker или прямо на Python, что ускоряет создание чатботов на базе знания, корпоративных помощников и систем Q&A с меньшим количеством галлюцинаций и повышенной точностью фактов.

RecurSearch — это опенсорсная библиотека Python, предназначенная для улучшения Retrieval-Augmented Generation (RAG) и рабочих процессов ИИ-агентов за счет рекурсивного семантического поиска. Пользователи определяют цепочку поиска, которая встраивает запросы и документы в векторные пространства, затем итеративно уточняет запросы по результатам, применяет фильтры метаданных или ключевых слов, а также подытоживает или агрегирует выводы. Такой пошаговый процесс повышения точности снижает число вызовов API, а также помогает выявлять глубоко вложенную или контекстуально-специфическую информацию из больших массивов данных.

Embedditor — это передовой инструмент с открытым исходным кодом, спроектированный как эффективный аналог MS Word для встраивания векторов. Он предлагает удобный интерфейс для редактирования встраиваний векторов LLM, позволяя пользователям загружать, объединять, разделять и редактировать содержимое в различных форматах файлов. Целью является оптимизация возможностей поиска векторов, обеспечение более высокой производительности и более точных результатов поиска. Этот инструмент предоставляет значительную гибкость и контроль над процессами встраивания, что делает его ценным дополнением к любому рабочему процессу поиска векторов и языковых моделей.