Exo — это фреймворк, ориентированный на разработчика, позволяющий создавать агентов, управляемых ИИ, способных общаться с пользователями, вызывать внешние API и сохранять контекст разговора. В основе Exo лежат определения на TypeScript для описания инструментов, слоёв памяти и управления диалогами. Пользователи могут регистрировать собственные действия для задач по извлечению данных, планированию или оркестровке API. Фреймворк автоматически обрабатывает шаблоны подсказок, маршрутизацию сообщений и обработку ошибок. Модуль памяти Exo может сохранять и вытаскивать пользовательскую информацию между сессиями. Разработчики могут развертывать агентов в средах Node.js или без сервера с минимальной настройкой. Exo также поддерживает промежуточное программное обеспечение для логирования, аутентификации и получения метрик. Его модульная архитектура обеспечивает повторное использование компонентов в нескольких агентских системах, ускоряя разработку и уменьшая избыточность.

AgentServe предоставляет унифицированный интерфейс для создания и развертывания AI-агентов. Пользователи задают поведение агентов в файлах конфигурации или коде, интегрируют внешние инструменты или источники знаний, и выставляют агентам REST-эндпоинты. Фреймворк автоматически обрабатывает маршрутизацию моделей, параллельные запросы, проверку состояния, логирование и метрики. Модульный дизайн позволяет подключать новые модели, кастомные инструменты и политики планирования, что делает его идеальным для создания чат-ботов, автоматизированных рабочих процессов и мультиагентных систем, масштабируемых и удобных в сопровождении.