Bot-With-Plan offre un modèle Python modulaire pour construire des agents IA qui génèrent d'abord un plan détaillé avant l'exécution. Il utilise GPT d'OpenAI pour analyser les instructions utilisateur, décomposer les tâches en étapes séquentielles, valider le plan, puis exécuter chaque étape via des outils externes comme la recherche web ou des calculatrices. Le cadre inclut la gestion des prompts, le parsing des plans, l'orchestration de l'exécution et la gestion des erreurs. En séparant les phases de planification et d'exécution, il offre une meilleure supervision, un débogage plus simple et une structure claire pour l’extension avec de nouveaux outils ou capacités.

Au cœur, AI Orchestra propose un moteur d'orchestration modulaire qui permet aux développeurs de définir des nœuds représentant des agents IA, des outils et des modules personnalisés. Chaque nœud peut être configuré avec des LLM spécifiques (par exemple, OpenAI, Hugging Face), des paramètres et un mappage d'entrée/sortie, permettant une délégation dynamique des tâches. Le framework supporte des pipelines modulaires, le contrôle de la concurrence et la logique de branchement, permettant des flux complexes qui s'adaptent en fonction des résultats intermédiaires. La télémétrie et la journalisation intégrées capturent les détails de l'exécution, tandis que les hooks de rappel gèrent les erreurs et les tentatives répétées. AI Orchestra inclut également un système de plugins pour intégrer des API externes ou des fonctionnalités personnalisées. Avec des définitions de pipelines basées sur YAML ou Python, les utilisateurs peuvent prototyper et déployer rapidement des systèmes multi-agents robustes, allant des assistants basés sur le chat aux flux automatisés d'analyse de données.