Bot-With-Plan ofrece una plantilla modular en Python para construir agentes IA que primero generan un plan detallado antes de la ejecución. Utiliza GPT de OpenAI para analizar instrucciones de usuario, descomponer tareas en pasos secuenciales, validar el plan y luego ejecutar cada paso a través de herramientas externas como búsqueda en la web o calculadoras. El framework incluye gestión de prompts, análisis de planes, orquestación de ejecución y manejo de errores. Separando las fases de planificación y ejecución, ofrece mayor supervisión, depuración más sencilla y una estructura clara para ampliación con nuevas herramientas o capacidades.

En su núcleo, AI Orchestra ofrece un motor de orquestación modular que permite a los desarrolladores definir nodos que representan agentes IA, herramientas y módulos personalizados. Cada nodo puede configurarse con LLM específicos (por ejemplo, OpenAI, Hugging Face), parámetros y mapeo de entrada/salida, habilitando la delegación dinámica de tareas. El marco soporta pipelines componibles, controles de concurrencia y lógica de ramificación, permitiendo flujos complejos que se adaptan según resultados intermedios. Telemetría y registros integrados capturan los detalles de la ejecución, mientras que hooks de retorno manejan errores y reintentos. AI Orchestra también incluye un sistema de plugins para integrar APIs externas o funcionalidades personalizadas. Con definiciones de pipelines en YAML o Python, los usuarios pueden prototipar y desplegar sistemas multi-agente robustos en minutos, desde asistentes conversacionales hasta flujos automáticos de análisis de datos.