Шаблон агента FastAPI LangGraph предлагает комплексную основу для разработки агентов на базе LLM внутри приложения FastAPI. Он включает предопределённые узлы LangGraph для таких задач, как завершение текста, внедрение и поиск по вектору, а также позволяет создавать собственные узлы и конвейеры. Шаблон управляет историей разговоров с помощью модулей памяти, сохраняющих контекст между сессиями, и поддерживает конфигурацию в зависимости от среды для разных этапов развертывания. Встроенные файлы Docker и структура, совместимая с CI/CD, обеспечивают беспрепятственную контейнеризацию и развертывание. Middleware логирования и обработки ошибок повышают наблюдаемость, а модульная кодовая база упрощает расширение функциональности. Объединив высокопроизводительный веб-фреймворк FastAPI с оркестрационными возможностями LangGraph, этот шаблон ускоряет цикл разработки агента от прототипирования до производства.

Layra предназначена для упрощения разработки агентов, поддерживаемых LLM, предоставляя модульную архитектуру, которая интегрируется с различными инструментами и хранилищами памяти. Включает планировщик, раздевающий задачи на подцели, модуль памяти для хранения диалогов и контекста, а также систему плагинов для подключения внешних API или пользовательских функций. Layra также позволяет координировать несколько экземпляров агентов, сотрудничая в сложных рабочих потоках, обеспечивая параллельное выполнение и делегирование задач. Благодаря четким абстракциям инструментов, памяти и определения политик разработчики могут быстро прототипировать и развертывать интеллектуальных агентов для поддержки клиентов, анализа данных, RAG и т.п. Он является framework-agnostic и поддерживает OpenAI, Hugging Face и локальные LLM.

SmolAgents Dynamic Tools расширяет открытый исходный код фреймворка Python SmolAgents, чтобы дать агентам на базе LLM возможность динамически вызывать инструменты. Агенты могут беспрепятственно использовать множество предварительно созданных инструментов — таких как веб-поиск через SerpAPI, математические калькуляторы, получение даты и времени, операции с файловой системой и обработчики пользовательских HTTP-запросов — в зависимости от пользовательских намерений и цепочек размышлений. Разработчики могут регистрировать дополнительные инструменты или настраивать существующие, что позволяет агентам заниматься получением данных, созданием контента, вычислениями и интеграцией внешних API в едином интерфейсе. Оценивая доступность инструментов во время выполнения, SmolAgents Dynamic Tools оптимизирует рабочие процессы, уменьшая жестко прописанную логику и повышая модульность в различных сценариях, таких как исследовательская помощь, автоматическая генерация отчетов и расширение чат-ботов.

NaturalAgents — это открытая библиотека Python, предназначенная для упрощения создания и развертывания агентов на базе LLM. Она предоставляет модули для управления памятью, отслеживания контекста и интеграции инструментов, позволяя агентам сохранять и вызывать информацию в течение длительных сессий. Иерархический планировщик координирует многошаговое рассуждение и действия, а система расширений поддерживает пользовательские плагины и вызовы внешних API. Встроенная регистрация и аналитика позволяют разработчикам наблюдать за производительностью и отлаживать рабочие процессы. NaturalAgents поддерживает как синхронное, так и асинхронное выполнение, что делает его гибким для интерактивных и автоматизированных сценариев.