Multi-LLM Dynamic Agent Router — это открытая архитектура для построения сотрудничества агентов ИИ. Она включает динамический маршрутизатор, который направляет суб-запросы на оптимальные языковые модели, и интерфейс GraphQL для определения комбинированных подсказок, запроса результатов и объединения ответов. Это позволяет разработчикам разбивать задачи на микро-подсказки, отправлять их на специализированные LLM и программно объединять выводы, обеспечивая более релевантные, эффективные и легко поддерживаемые решения.

ToolFuzz предоставляет всеобъемлющую платформу для тестирования фуззинга, специально предназначенную для ИИ-агентов, использующих инструменты. Он систематически генерирует случайные последовательности вызова инструментов, поврежденные API-входные данные и неожиданные комбинации параметров для стресс-тестирования модулей вызова инструментов агента. Пользователи могут задавать индивидуальные стратегии фуззинга через модульный интерфейс плагинов, интегрировать сторонние инструменты или API и настраивать правила мутаций для целей тестирования конкретных режимов сбоев. Фреймворк собирает трассировки выполнения, измеряет покрытие кода для каждого компонента и выделяет необработанные исключения или ошибки логики. Встроенная агрегация результатов и отчеты ускоряют выявление крайних случаев, регрессий и уязвимостей безопасности, тем самым повышая надежность и устойчивость рабочих процессов на базе ИИ.