echoOLlama использует экосистему Ollama для предоставления минимальной структуры агента: он читает пользовательский ввод из терминала, отправляет его сконфигурированному локальному LLM и транслирует ответы в реальном времени. Пользователи могут скриптовать последовательности взаимодействий, связывать подсказки и экспериментировать с инженерией подсказок, не модифицируя исходный код модели. Это делает echoOLlama идеальным средством для тестирования диалоговых сценариев, создания простых командных утилит и обработки итеративных задач агентов, при этом обеспечивая безопасность данных.

Whiz предназначен для предоставления прочной основы для разработки интеллектуальных агентов, выполняющих сложные разговорные и задачевые рабочие процессы. Используя Whiz, разработчики определяют "инструменты" — функции Python или внешние API — которые агент вызывает при обработке запросов пользователя. Встроенный модуль памяти захватывает и восстанавливает контекст беседы, обеспечивая последовательные многоповоротные взаимодействия. Динамический планировщик разбивает цели на действия, а гибкий интерфейс позволяет внедрять собственные политики, реестры инструментов и движки памяти. Whiz поддерживает семантический поиск на базе embedding, ведение журналов для аудита и асинхронное выполнение для масштабирования. Полностью с открытым исходным кодом, Whiz может быть развернут в любом месте, где работает Python, что позволяет быстро создавать прототипы чат-ботов поддержки клиентов, помощников по анализу данных или специализированных агентов с минимальной подготовкой кода.