llm-lab обеспечивает гибкий набор инструментов для создания интеллектуальных агентов с использованием больших языковых моделей. Включает движок оркестровки агентов, поддержку пользовательских шаблонов, отслеживание состояния и памяти, а также бесшовную интеграцию с внешними API и плагинами. Пользователи могут писать сценарии, определять цепочки инструментов, симулировать взаимодействия и собирать журналы производительности. В рамках также есть встроенный тестовый набор для проверки поведения агентов на соответствие ожидаемым результатам. Благодаря расширяемости, llm-lab позволяет разработчикам менять поставщиков LLM, добавлять новые инструменты и совершенствовать логику агентов через итерационные эксперименты.

Демо Semantic Kernel Copilot — это полнофункционский образец приложения, показывающий, как создавать продвинутых AI-агентов с помощью фреймворка Semantic Kernel от Microsoft. Демонстрация включает цепочки подсказок для многошагового рассуждения, управление памятью для восстановления контекста между сессиями и архитектуру навыков на основе плагинов, позволяющую интеграцию с внешними API или службами. Разработчики могут настроить соединители для Azure OpenAI или моделей OpenAI, определить собственные шаблоны подсказок и реализовать доменные навыки, такие как доступ к календарю, операции с файлами или извлечение данных. Пример показывает, как организовать эти компоненты для создания разговорного ко-пилота, который понимает намерения пользователя, выполняет задачи и сохраняет контекст со временем, способствуя быстрому развитию персонализированных AI-ассистентов.

ThreeAgents написан на Python и использует API OpenAI для инстанцирования нескольких AI-агентов с разными ролями (система, помощник, пользователь). Он предлагает абстракции для подсказок агентам, обработки сообщений в зависимости от ролей и управления памятью контекста. Разработчики могут создавать собственные шаблоны подсказок, настраивать индивидуальность агентов и связывать взаимодействия для моделирования реалистичных диалогов или рабочих процессов, ориентированных на задачи. Framework управляет передачей сообщений, управлением окна контекста и ведением журналов, позволяя проводить эксперименты по совместному принятию решений или иерархической декомпозиции задач. Благодаря поддержке переменных окружения и модульных агентов, ThreeAgents обеспечивает беспрепятственный обмен между локальными и облачными LLM, позволяя быстро разрабатывать прототипы многоагентных систем ИИ. В комплекте идут примеры и поддержка Docker для быстрой настройки.