Bot-With-Plan предоставляет модульный шаблон на Python для построения AI-агентов, которые сначала создают подробный план перед выполнением. Он использует GPT от OpenAI для анализа инструкций пользователя, разбиения задач на последовательные шаги, проверки плана и последующего выполнения каждого через внешние инструменты (например, поиск в интернете или калькуляторы). Включает управление подсказками, анализ планов, оркестрацию выполнения и обработку ошибок. Разделение фаз планирования и исполнения обеспечивает лучший контроль, облегчает отладку и расширение функционала с новыми инструментами или возможностями.

В своей основе, AI Orchestra представляет собой модульный механизм оркестровки, позволяющий разработчикам определять узлы, представляющие агентов ИИ, инструменты и пользовательские модули. Каждый узел можно настроить с помощью конкретных LLM (например, OpenAI, Hugging Face), параметров и сопоставления входных/выходных данных, что обеспечивает динамическое делегирование задач. Фреймворк поддерживает компонуемые конвейеры, управление параллельностью и ветвящуюся логику, позволяющую создавать сложные потоки, адаптирующиеся на основе промежуточных результатов. Встроенная телеметрия и логирование захватывают детали исполнения, а хуки обратных вызовов обеспечивают обработку ошибок и повторных попыток. AI Orchestra также включает систему плагинов для интеграции с внешним API или пользовательскими функциями. С помощью YAML или Python, пользователи могут быстро прототипировать и развертывать надежные системы с несколькими агентами, от чат-ассистентов до автоматизированных аналитических рабочих потоков.