Joylive Agent предлагает модульную архитектуру на основе плагинов, предназначенную для создания сложных AI-агентов. Она обеспечивает беспрепятственную интеграцию с LLM, такими как OpenAI GPT, конфигурируемые backend-системы памяти для сохранения сессий и менеджер наборов инструментов для предоставления внешних API или пользовательских функций как возможностей агента. В рамках фреймворка реализована встроенная цепочка рассуждений, управление многозначными диалогами и REST-сервер для легкого развертывания. Его ядро на Java обеспечивает стабильность уровня предприятия, позволяя командам быстро прототипировать, расширять и масштабировать интеллектуальных помощников для различных случаев использования.

Пример Azure AI Travel Agents — это полномасштабная примерная реализация разговорного агента, который помогает пользователям планировать путешествия, генерируя персонализированные маршруты, ищет варианты полетов и отелей и отвечает на вопросы, связанные с путешествиями. Построен на базе Framework Azure AI Agent, он использует модели GPT от OpenAI для понимания и генерации естественного языка, использует Azure Functions для размещения навыков, таких как поиск погоды, и подключается к внешним API для получения информации о бронировании в реальном времени. Разработчики могут запускать его локально или развернуть на Azure, расширять существующие навыки или добавлять новые, например, конвертацию валют, рекомендации местных достопримечательностей или тревожные оповещения. В этом примере показано, как оркестрировать множество навыков на базе AI и управлять контекстом между сеансами, чтобы обеспечить надежное и масштабируемое решение для путешествий.

Layra предназначена для упрощения разработки агентов, поддерживаемых LLM, предоставляя модульную архитектуру, которая интегрируется с различными инструментами и хранилищами памяти. Включает планировщик, раздевающий задачи на подцели, модуль памяти для хранения диалогов и контекста, а также систему плагинов для подключения внешних API или пользовательских функций. Layra также позволяет координировать несколько экземпляров агентов, сотрудничая в сложных рабочих потоках, обеспечивая параллельное выполнение и делегирование задач. Благодаря четким абстракциям инструментов, памяти и определения политик разработчики могут быстро прототипировать и развертывать интеллектуальных агентов для поддержки клиентов, анализа данных, RAG и т.п. Он является framework-agnostic и поддерживает OpenAI, Hugging Face и локальные LLM.