OSU NLP Middleware — легкая рамочная система на Python, которая упрощает разработку систем ИИ-агентов. Она предоставляет главный цикл, который управляет взаимодействием между моделями естественного языка и внешними функциями инструментов, определенными как плагины. Фреймворк поддерживает популярных поставщиков LLM (OpenAI, Hugging Face и др.) и позволяет регистрировать пользовательские инструменты для задач, таких как запросы к базам данных, поиск документов, веб-сканирование, математические вычисления и REST API вызовы. Middleware управляет историей разговоров, ограничениями скорости и регистрирует все взаимодействия. Также он предлагает настраиваемое кеширование и политику повторных попыток для повышения надежности, легко создавая интеллектуальных помощников, чат-ботов и автономные рабочие процессы с минимальным количеством шаблонного кода.

Swarms работает как фреймворк, ориентированный в первую очередь на Python и веб-интерфейс, позволяя пользователям настраивать отдельных агентов с конкретными ролями, управлением памятью и пользовательскими подсказками. Пользователи определяют взаимодействия агентов с помощью визуального редактора потоков или YAML-конфигураций, управляя сложными деревьями решений, дебатами и совместными задачами. Платформа поддерживает интеграцию плагинов для запросов данных, доступа к базам знаний и вызовов сторонних API. После развертывания Swarms обеспечивает мониторинг деятельности агентов, показатели производительности и журналы в реальном времени. Он горизонтально масштабируется с помощью инструментов оркестрации контейнеров, позволяя запускать крупномасштабные симуляции ИИ, роботизированные системы управления или интеллектуальные автоматизации рабочих процессов. Архитектура с открытым исходным кодом обеспечивает расширяемость, развитие сообществом и возможности самостоятельного хостинга для полного контроля данных.

Astro Agents предлагает модульную архитектуру для построения агентов на JavaScript и TypeScript. Разработчики могут регистрировать собственные инструменты для поиска данных, внедрять хранилища памяти для сохранения контекста диалога и управлять рабочими потоками из нескольких шагов. Поддерживаются различные провайдеры LLM, такие как OpenAI и Hugging Face, и его можно развернуть как статические сайты или безсерверные функции. Благодаря встроенной обозримости и расширяемым плагинам команды могут быстро прототипировать, тестировать и масштабировать ИИ-ассистентов без больших затрат на инфраструктуру.