Wizard Language — это декларативный предметно-ориентированный язык, основанный на TypeScript, для создания помощников ИИ в виде волшебников. Разработчики определяют шаги, вызванные намерением, подсказки, вызовы инструментов, хранилища памяти и ветвления в кратком DSL. Внутри Wizard Language компилирует эти определения в оркестрированные вызовы LLM, управляя контекстом, асинхронными потоками и обработкой ошибок. Он ускоряет создание прототипов чат-ботов, помощников по извлечению данных и автоматизированных рабочих процессов, сохраняя инженеринг подсказок и управление состоянием в переиспользуемых компонентах.

Council предоставляет структурированную среду для проектирования ИИ-агентов, определяя роли, связывая задания в цепочки и интегрируя внешние инструменты или API. Пользователи могут настраивать хранилища памяти, управлять состоянием агентов и реализовывать сложные пайплайны рассуждений. Архитектура плагинов Council обеспечивает бесшовную интеграцию с NLP-сервисами, источниками данных и сторонними инструментами, что позволяет быстро прототипировать и развертывать системы с несколькими агентами, координирующими выполнение сложных задач надежно.

LangGraph4j представляет операции ИИ-агента — вызовы LLM, вызовы функций, преобразования данных — как узлы в ориентированном графе, с ребрами, моделирующими поток данных. Вы создаёте граф, добавляете узлы для чатов, встраиваний, внешних API или пользовательской логики, соединяете их и выполняете. Фреймворк управляет порядком выполнения, обрабатывает кэширование, логирует входные и выходные данные и позволяет расширять новые типы узлов. Он поддерживает синхронную и асинхронную обработку, что делает его идеальным для чат-ботов, систем вопросов и ответов при работе с документами и сложных цепочек рассуждений.

Модульная архитектура LLM предназначена для упрощения создания настраиваемых приложений на базе LLM посредством композиционной, модульной конструкции. Она предоставляет основные компоненты, такие как модули памяти для хранения состояния сеанса, интерфейсы инструментов для вызовов внешних API, менеджеры подсказок для шаблонного или динамического генерации подсказок и движки оркестровки для управления рабочим процессом агента. Вы можете настраивать пайплайны, соединяющие эти модули, что позволяет реализовать сложные сценарии, такие как многошаговое рассуждение, ответы, учитывающие контекст, и интеграцию данных. Эта платформа поддерживает несколько бэкэндов LLM, позволяя переключаться или смешивать модели, а также предлагает точки расширения для добавления новых модулей или собственной логики. Такая архитектура ускоряет разработку за счет повторного использования компонентов и обеспечивает прозрачность и контроль над поведением агента.

Modus — это фреймворк, ориентированный на разработчика, который упрощает создание агентов ИИ за счет предоставления основных компонентов для интеграции LLM, хранения памяти и оркестровки инструментов. Он поддерживает плагины-библиотеки инструментов, позволяющие агентам выполнять задачи такие, как извлечение данных, анализ и выполнение действий. Благодаря встроенным модулям памяти агенты могут сохранять контекст диалога и обучаться в ходе взаимодействий. Расширяемая архитектура ускоряет разработку и внедрение ИИ в различных приложениях.