Langchainrb — это библиотека Ruby с открытым исходным кодом, предназначенная для ускорения разработки приложений с ИИ с помощью модульной архитектуры для агентов, цепочек и инструментов. Разработчики могут определять шаблоны подсказок, собирать цепочки вызовов LLM, интегрировать компоненты памяти для сохранения контекста и подключать пользовательские инструменты, такие как загрузчики документов или поисковые API. Поддерживается генерация встраиваний для семантического поиска, встроенная обработка ошибок и гибкая настройка моделей. Благодаря абстракциям агентов можно реализовать диалоговых помощников, которые решают, какие инструменты или цепочки вызывать в зависимости от входных данных пользователя. Расширяемая архитектура Langchainrb позволяет легко настраивать систему, быстро прототипировать чат-ботов, автоматические системы суммирования, QA-системы и автоматизацию сложных рабочих процессов.

rag-services — это расширяемая платформа, разбивающая пайплайны RAG на отдельные микросервисы. Предоставляет сервис хранения документов, сервис индексирования векторов, сервис embedding, несколько сервисов inference LLM и оркестратор для координации рабочих процессов. Каждый компонент предоставляет REST API, позволяющее сочетать базы данных и поставщиков моделей. Поддержка Docker и Docker Compose позволяет развертывать локально или в кластерах Kubernetes. Фреймворк обеспечивает масштабируемые и отказоустойчивые решения RAG для чатботов, баз знаний и автоматизированных вопросов и ответов.

RAG для кибербезопасности сочетает мощь больших языковых моделей с векторным поиском для трансформации способов доступа и анализа информации по кибербезопасности. Пользователи начинают с загрузки документов, таких как матрицы MITRE ATT&CK, записи CVE и рекомендации по безопасности. Затем фреймворк создает векторные представления для каждого документа и храни их в векторной базе данных. При отправке запроса RAG извлекает наиболее релевантные части документов, передает их LLM и возвращает точные, насыщенные контекстом ответы. Такой подход обеспечивает ответы, основанные на авторитетных источниках, уменьшает галлюцинации и повышает точность. Благодаря настраиваемым каналам обработки данных и поддержке нескольких провайдеровEmbedding и LLM, команды могут адаптировать систему под свои уникальные потребности в области разведки угроз.

Memonto функционирует как промежуточная библиотека для агентов ИИ, управляя всем циклом памяти. Во время каждого этапа разговора он записывает сообщения пользователя и ИИ, выделяет важные детали и создает краткие обзоры. Эти обзоры превращаются в векторные встраивания и хранятся в базах данных или файлах. При создании новых подсказок Memonto выполняет семантические поиски для получения наиболее релевантных исторических воспоминаний, что позволяет агентам сохранять контекст, помнить предпочтения пользователя и предоставлять персонализированные ответы. Поддерживаются разные системы хранения (SQLite, FAISS, Redis), а также предлагаются настраиваемые конвейеры для встраивания, суммирования и поиска. Разработчики могут легко интегрировать Memonto в существующие фреймворки агента, повышая согласованность и долгосрочную вовлеченность.

CrewAI Anthropic Similar Company Finder — командный инструмент ИИ, обрабатывающий предоставленный пользователем список названий компаний, отправляющий их для генерации внедрений в Anthropic Claude, а затем вычисляющий оценки схожести косинуса для ранжирования связанных компаний. Используя представления векторов, он выявляет скрытые связи и группы сверстников внутри наборов данных. Пользователи могут задавать параметры, такие как модель внедрения, порог схождения и число результатов, чтобы адаптировать вывод под свои исследовательские и конкурентные нужды.