ModelScope Agent предоставляет модульную платформу на базе Python для оркестровки автономных AI-агентов. В ней реализована интеграция плагинов для внешних инструментов (API, базы данных, поиск), память для сохранения контекста и настраиваемые цепочки агентов для решения сложных задач — извлечения знаний, обработки документов и поддержки принятия решений. Разработчики могут настраивать роли агентов, поведение и подсказки, а также использовать несколько бэкендов LLM для оптимизации производительности и надежности в реальных условиях.

LLM Coordination — это ориентированный на разработчиков фреймворк, который управляет взаимодействием между несколькими большими языковыми моделями для решения сложных задач. Предоставляет компонент планирования, разбивающий высокоуровневые цели на подзадачи, модуль поиска, получающий контекст из внешних баз знаний, и движок выполнения, распределяющий задачи специализированным агентам LLM. Результаты собираются с помощью обратных связей для уточнения итогов. Абстрагируя коммуникацию, управление состоянием и конфигурацию конвейера, он позволяет быстро прототипировать рабочие процессы ИИ с несколькими агентами для автоматизированной поддержки клиентов, анализа данных, генерации отчетов и рассуждений с несколькими шагами. Пользователи могут настраивать планировщики, определять роли агентов и легко интегрировать собственные модели.