TreeInstruct fournit un cadre pour construire des pipelines de prompts hiérarchiques basés sur des arbres de décision pour de grands modèles linguistiques. Les utilisateurs peuvent définir des nœuds représentant des prompts ou des appels de fonction, établir des branches conditionnelles en fonction des sorties du modèle, et exécuter l'arbre pour guider des workflows complexes. Il prend en charge l'intégration avec OpenAI et d'autres fournisseurs de LLM, offrant la journalisation, la gestion des erreurs et des paramètres de nœuds personnalisables pour assurer transparence et flexibilité dans les interactions à plusieurs tours.

Octagon Agents est une plateforme d'entreprise permettant aux développeurs et aux organisations de créer, orchestrer et faire évoluer des agents IA autonomes. Elle dispose d'un éditeur de flux de travail visuel et de SDK pour Python et JavaScript, permettant aux utilisateurs de configurer le comportement des agents, d'intégrer des API externes et de gérer la mémoire avec état. Les agents peuvent être chaînés dans des pipelines complexes, facilitant la prise de décision pour plusieurs tâches telles que l'extraction de données, l'analyse et les réponses automatisées. Avec des tableaux de bord de surveillance en temps réel, la journalisation et des mécanismes de nouvelle tentative, Octagon Agents garantit fiabilité et traçabilité en environnement de production. De plus, l'authentification intégrée et le cryptage offrent une sécurité robuste, adapté aux applications commerciales sensibles. Les équipes peuvent déployer des agents sur le cloud ou sur une infrastructure locale, en assurant une haute disponibilité et performance.