Локальный LLM с вызовами функций позволяет разработчикам создавать AI-агентов, которые полностью работают на локальном оборудовании, устраняя проблемы конфиденциальности данных и зависимости от облака. В рамках приводится пример кода для интеграции локальных LLM, таких как LLaMA, GPT4All или другие модели с открытым весом, и показывается, как настраивать схемы функций, которые модель может вызывать для выполнения таких задач, как получение данных, выполнение shell-команд или взаимодействие с API. Пользователи могут расширять дизайн, определяя собственные конечные точки функций, настраивая подсказки и обрабатывая ответы функций. Это лёгкое решение упрощает создание оффлайн-ассистентов, чатботов и инструментов автоматизации для различных приложений.

Cookbooks продвинутых агентов — это проект, поддерживаемый сообществом на GitHub, предлагающий библиотеку рецептов AI-агентов на базе LangChain. Включают модули памяти для сохранения контекста, интеграцию пользовательских инструментов и внешних API, шаблоны вызовов функций для структурированных ответов, планирование цепочкой размышлений для сложных решений и оркестрацию многошаговых рабочих процессов. Разработчики могут использовать эти готовые примеры, чтобы понять лучшие практики, настраивать поведение и ускорять создание умных агентов, автоматизирующих задачи вроде планирования, извлечения данных и обслуживания клиентов.