Шаблон агента FastAPI LangGraph предлагает комплексную основу для разработки агентов на базе LLM внутри приложения FastAPI. Он включает предопределённые узлы LangGraph для таких задач, как завершение текста, внедрение и поиск по вектору, а также позволяет создавать собственные узлы и конвейеры. Шаблон управляет историей разговоров с помощью модулей памяти, сохраняющих контекст между сессиями, и поддерживает конфигурацию в зависимости от среды для разных этапов развертывания. Встроенные файлы Docker и структура, совместимая с CI/CD, обеспечивают беспрепятственную контейнеризацию и развертывание. Middleware логирования и обработки ошибок повышают наблюдаемость, а модульная кодовая база упрощает расширение функциональности. Объединив высокопроизводительный веб-фреймворк FastAPI с оркестрационными возможностями LangGraph, этот шаблон ускоряет цикл разработки агента от прототипирования до производства.

CopilotKit — это open-source фреймворк на Python, предназначенный для разработчиков, создающих настраиваемых AI-агентов. Он предлагает модульную архитектуру, которая позволяет регистрировать и конфигурировать инструменты — такие как доступ к файловой системе, веб-поиск, Python REPL и SQL-коннекторы — и подключать их к агентам, использующим любые поддерживаемые LLM. Встроенные модули памяти позволяют сохранять состояние диалогов, а LangGraph помогает определять структурированные цепочки размышлений для сложных задач. Агенты могут быть развернуты в скриптах, веб-сервисах или CLI-приложениях и масштабироваться к различным облачным провайдерам. CopilotKit бесшовно работает с моделями OpenAI, Azure OpenAI и Anthropic, расширяя автоматизированные рабочие процессы, чат-боты и боты для анализа данных.