Созданный на базе LangGraph, этот набор инструментов управляет ИИ-агентами в комнатах LiveKit, захватывая аудио потоки, расшифровывая речь с помощью Whisper и генерируя контекстные ответы с использованием популярных LLM, таких как OpenAI или локальные модели. Разработчики могут задавать триггеры на основе событий и динамические рабочие процессы с помощью декларативной оркестрации LangGraph, что обеспечивает использование таких сценариев, как обработка вопросов и ответов, живое голосование, перевод в реальном времени, извлечение действий или мониторинг настроений. Модульная архитектура обеспечивает беспрепятственную интеграцию, расширяемость для пользовательских сценариев и легкое развертывание в средах Node.js или браузерах с полным доступом к API.

bedrock-agent — универсальная платформа ИИ-агентов, интегрирующаяся с набором крупных языковых моделей AWS Bedrock для организации сложных, ориентированных на задачи рабочих процессов. Она предлагает архитектуру плагинов для регистрации пользовательских инструментов, модули памяти для сохранения контекста и механизм цепочки размышлений для улучшенного логического вывода. Через простую API Python и интерфейс командной строки можно создавать агентов, вызывающих внешние сервисы, обрабатывающих документы, генерирующих код или взаимодействующих с пользователями через чат. Агенты могут автоматически выбирать соответствующие инструменты на основе запросов пользователей и поддерживать разговорный статус между сессиями. Этот фреймворк является open-source, расширяемым и оптимизирован для быстрого прототипирования и развертывания ИИ-ассистентов в локальных или облачных средах AWS.