autogen-agent-server выступает в качестве централизованной платформы для оркестрации ИИ-агентов, позволяя разработчикам осуществлять доступ к возможностям агентов через стандартные RESTful конечные точки. Основные функции включают регистрацию новых агентов с пользовательскими подсказками и логикой, управление несколькими сессиями с отслеживанием контекста, получение истории диалогов и координацию мультиагентных диалогов. Обеспечена асинхронная обработка сообщений, callback’и webhook и встроенное хранение состояния агентов и логов. Платформа бесшовно интегрируется с библиотекой AutoGen для использования LLM, поддерживает пользовательские промежуточные слои для аутентификации, масштабируется с помощью Docker и Kubernetes и предоставляет хуки мониторинга для метрик. Этот каркас ускоряет создание чат-ботов, цифровых помощников и автоматических рабочих процессов, абстрагируя инфраструктуру сервера и схемы коммуникаций.

Cerebellum предоставляет модульную платформу, в которой разработчики определяют агентов, используя декларативные планы, состоящие из последовательных шагов или вызовов инструментов. Каждый план может вызывать встроенные или настраиваемые инструменты — такие как API-коннекторы, поиска, или обработчики данных — через единый интерфейс. Модули памяти позволяют агентам сохранять, извлекать и забывать информацию между сессиями, обеспечивая контекстоориентированные и состояние-зависимые взаимодействия. Платформа интегрируется с популярными LLM (OpenAI, Hugging Face), поддерживает регистрацию собственных инструментов и включает движок исполнения событий для управления процессом в реальном времени. В комплект входят логирование, обработка ошибок и хуки для плагинов, что повышает производительность и позволяет быстро создавать агенты для автоматизации, виртуальных ассистентов и исследовательских задач.