Bot-With-Plan fornece um modelo modular em Python para construir agentes de IA que primeiro geram um plano detalhado antes da execução. Utiliza o GPT da OpenAI para interpretar instruções do usuário, decompor tarefas em etapas sequenciais, validar o plano e então executar cada passo através de ferramentas externas como busca na web ou calculadoras. A estrutura inclui gerenciamento de prompts, análise de planos, orquestração de execução e manipulação de erros. Ao separar as fases de planejamento e execução, oferece melhor supervisão, depuração mais fácil e uma estrutura clara para extensões com novas ferramentas ou recursos.

No seu núcleo, o AI Orchestra oferece um mecanismo de orquestração modular que permite aos desenvolvedores definir nós representando agentes de IA, ferramentas e módulos personalizados. Cada nó pode ser configurado com LLMs específicos (por exemplo, OpenAI, Hugging Face), parâmetros e mapeamento de entrada/saída, permitindo delegação de tarefas dinâmica. A estrutura suporta pipelines componíveis, controles de concorrência e lógica de ramificação, permitindo fluxos complexos que se adaptam com base nos resultados intermediários. Telemetria e logging integrados capturam detalhes de execução, enquanto ganchos de retorno de chamada lidam com erros e tentativas novamente. O sistema de plugins também inclui suporte para integração com APIs externas ou funcionalidades personalizadas. Com definições de pipeline baseadas em YAML ou Python, os usuários podem prototipar e implantar sistemas multifuncionais em minutos, de assistentes baseados em chat a fluxos de trabalho de análise de dados automatizados.