JuggleChat предоставляет упрощенный интерфейс для управления AI-разговорами, интегрируя веб-сервер Tornado, фреймворк LangChain и модели OpenAI. Пользователи могут создавать несколько именованных потоков чата, каждый из которых сохраняет свою историю через модули памяти LangChain. Легко переключайтесь между сессиями, просматривайте прошлые взаимодействия и поддерживайте контекст без потери данных. Поддерживается конфигурация пользовательских API-ключей OpenAI и выбор моделей, таких как gpt-3.5-turbo или другие GPT-эндпойнты. Создан для разработчиков и исследователей, JuggleChat требует минимальной установки: установка зависимостей, указание API-ключа и запуск локального сервера. Идеально подходит для тестирования подсказок, прототипирования AI-агентов и сравнения поведения моделей в изолированной среде.

Labs — это open-source предметно-ориентированный язык, предназначенный для определения и выполнения AI-агентов с использованием крупномасштабных языковых моделей. Он предоставляет конструкции для объявления подсказок, управления контекстом, условного ветвления и интеграции внешних инструментов (например, баз данных, API). С помощью Labs разработчики описывают рабочие процессы агентов в виде кода, координируя многошаговые задачи, такие как извлечение данных, анализ и генерация. Фреймворк компилирует DSL-скрипты в исполняемые пайплайны, которые можно запускать локально или в production. Labs поддерживает интерактивный REPL, инструменты командной строки и интегрируется с поставщиками стандартных LLM. Его модульная архитектура позволяет легко расширять функциональность с помощью пользовательских функций и утилит, способствуя быстрому прототипированию и сопровождаемому развитию агентов. Легкий рантайм обеспечивает низкую нагрузку и бесшовную интеграцию в существующие приложения.