ModelScope Agent предоставляет модульную платформу на базе Python для оркестровки автономных AI-агентов. В ней реализована интеграция плагинов для внешних инструментов (API, базы данных, поиск), память для сохранения контекста и настраиваемые цепочки агентов для решения сложных задач — извлечения знаний, обработки документов и поддержки принятия решений. Разработчики могут настраивать роли агентов, поведение и подсказки, а также использовать несколько бэкендов LLM для оптимизации производительности и надежности в реальных условиях.

LLM Coordination — это ориентированный на разработчиков фреймворк, который управляет взаимодействием между несколькими большими языковыми моделями для решения сложных задач. Предоставляет компонент планирования, разбивающий высокоуровневые цели на подзадачи, модуль поиска, получающий контекст из внешних баз знаний, и движок выполнения, распределяющий задачи специализированным агентам LLM. Результаты собираются с помощью обратных связей для уточнения итогов. Абстрагируя коммуникацию, управление состоянием и конфигурацию конвейера, он позволяет быстро прототипировать рабочие процессы ИИ с несколькими агентами для автоматизированной поддержки клиентов, анализа данных, генерации отчетов и рассуждений с несколькими шагами. Пользователи могут настраивать планировщики, определять роли агентов и легко интегрировать собственные модели.

Pebbling AI — это специализированная инфраструктура памяти, предназначенная для повышения возможностей AI-агентов. Предлагая интеграцию хранения векторов, поддержку генерации с использованием поиска и возможность настройки очистки памяти, она обеспечивает эффективное управление долгосрочным контекстом. Разработчики могут определять схемы памяти, строить графы знаний и устанавливать политики удержания для оптимизации использования токенов и актуальности. Благодаря аналитическим панелям команды контролируют производительность памяти и взаимодействие с пользователями. Платформа поддерживает координацию нескольких агентов, позволяя отдельным агентам делиться и получать доступ к общим знаниям. Будь то создание диалоговых ботов, виртуальных помощников или автоматизированных рабочих процессов — Pebbling AI упрощает управление памятью для обеспечения персонализированного и богатого контекста опыта.