TreeInstruct предоставляет структуру для создания иерархических конвейеров подсказок на основе дерева решений для больших языковых моделей. Пользователи могут определять узлы, отображающие подсказки или вызовы функций, создавать условные ветви на основе вывода модели и выполнять дерево для управления сложными рабочими процессами. Поддерживается интеграция с OpenAI и другими поставщиками LLM, предлагая логирование, обработку ошибок и настраиваемые параметры узлов для прозрачности и гибкости при взаимодействии с несколькими раундами.

Whiz предназначен для предоставления прочной основы для разработки интеллектуальных агентов, выполняющих сложные разговорные и задачевые рабочие процессы. Используя Whiz, разработчики определяют "инструменты" — функции Python или внешние API — которые агент вызывает при обработке запросов пользователя. Встроенный модуль памяти захватывает и восстанавливает контекст беседы, обеспечивая последовательные многоповоротные взаимодействия. Динамический планировщик разбивает цели на действия, а гибкий интерфейс позволяет внедрять собственные политики, реестры инструментов и движки памяти. Whiz поддерживает семантический поиск на базе embedding, ведение журналов для аудита и асинхронное выполнение для масштабирования. Полностью с открытым исходным кодом, Whiz может быть развернут в любом месте, где работает Python, что позволяет быстро создавать прототипы чат-ботов поддержки клиентов, помощников по анализу данных или специализированных агентов с минимальной подготовкой кода.