Graphium — это фреймворк оркестрации графов знаний и LLM, который поддерживает загрузку структурированных данных, создание семантических внедрений и гибридный поиск для Q&A и чата. Он интегрируется с популярными LLM, графовыми базами данных и векторными хранилищами, чтобы обеспечить объяснимых AI-агентов на основе графов. Пользователи могут визуализировать структуры графов, запрашивать отношения и использовать многоступенчатое логическое мышление. Предоставляет RESTful API, SDK и веб-интерфейс для управления пайплайнами, мониторинга запросов и настройки подсказок, что делает его идеальным для корпоративного управления знаниями и исследовательских задач.

Sherpa от CartographAI — это фреймворк на базе Python, предназначенный для упрощения создания интеллектуальных помощников и автоматизированных рабочих процессов. Он позволяет разработчикам определять агентов, способных интерпретировать ввод пользователя, выбирать подходящие конечные точки LLM или внешние API, а также управлять сложными задачами, такими как суммирование документов, получение данных и диалоговые вопросы и ответы. Благодаря архитектуре на основе плагинов, Sherpa поддерживает легкую интеграцию собственных инструментов, хранилищ памяти и стратегий маршрутизации для оптимизации релевантности ответов и затрат. Пользователи могут настраивать многоступенчатые конвейеры, где каждый модуль выполняет отдельную функцию — например, семантический поиск, анализ текста или генерацию кода — а Sherpa управляет распространением контекста и логикой отказов. Такой модульный подход ускоряет создание прототипов, повышает удобство обслуживания и позволяет командам создавать масштабируемые AI-решения для различных задач.

Clinical Agent предназначен для упрощения клинических процессов за счет объединения мощностей дополненной выборкой генерации и векторного поиска. Он обрабатывает данные электронных медицинских карт, индексирует документы с помощью векторной базы данных и использует LLMs для ответа на клинические вопросы, генерации выписок и создания структурированных заметок. Разработчики могут настраивать подсказки, интегрировать дополнительные источники данных и расширять модули. Фреймворк поддерживает модульные пайплайны для загрузки данных, семантического поиска, вопросов и ответов и суммирования, что позволяет больницам и исследовательским группам быстро разворачивать ИИ-ассистентов.

Pi Web Agent — легкий расширяемый каркас для создания ИИ-чат-агентов в интернете. Он использует Python FastAPI на серверной стороне и React на клиенте для обеспечения интерактивных диалогов с помощью OpenAI, Cohere или локальных LLMs. Пользователи могут загружать документы или подключать внешние базы данных для семантического поиска через векторные хранилища. Архитектура плагинов позволяет разрабатывать собственные инструменты, вызовы функций и интеграцию сторонних API локально. Предлагается полный исходный код, шаблоны подсказок, основанные на ролях, и настраиваемое хранилище памяти для создания персонализированных ИИ-ассистентов.

Rags предоставляет модульную pipeline для построения приложений с дополненной генерацией и поиском. Интегрируется с популярными векторными хранилищами (например, FAISS, Pinecone), предлагает настраиваемые шаблоны подсказок и модули памяти для хранения контекста. Разработчики могут переключаться между поставщиками LLM, такими как Llama-2, GPT-4 и Claude2, через единый API. Rags поддерживает потоковую обработку ответов, кастомную предварительную обработку и хуки оценки. Благодаря расширяемому дизайну он легко интегрируется в производственные системы, обеспечивая автоматический ввод документов, семантический поиск и масштабные задачи генерации для чат-ботов, ассистентов по знаниям и сжатия документов.