LLM State Machine est un framework Python open-source conçu pour construire des agents IA utilisant des machines à états explicites. Les développeurs définissent des états comme des étapes discrètes—chacune invoquant un grand modèle linguistique ou une logique personnalisée—et des transitions basées sur des sorties. Cette approche offre clarté, maintenabilité et une gestion robuste des erreurs pour des workflows multi-étapes alimentés par LLM, tels que le traitement de documents, les bots conversationnels ou les pipelines d'automatisation.

QueryCraft est un outil d'ingénierie des invites basé sur Python, conçu pour rationaliser le développement des agents IA. Il permet aux utilisateurs de définir des invites structurées via un pipeline modulaire, de se connecter sans problème à plusieurs API LLM, et de réaliser des évaluations automatisées selon des métriques personnalisées. Avec une journalisation intégrée de l’utilisation des jetons et des coûts, les développeurs peuvent mesurer la performance, comparer différentes versions d’invites et identifier des inefficacités. QueryCraft comprend également des outils de débogage pour inspecter les sorties du modèle, visualiser les étapes du flux de travail et effectuer des benchmarks sur différents modèles. Ses interfaces CLI et SDK permettent une intégration dans les pipelines CI/CD, favorisant une itération rapide et une collaboration efficace. En fournissant un environnement complet pour la conception, le test et l’optimisation des invites, QueryCraft aide les équipes à fournir des solutions d’agents IA plus précises, efficaces et rentables.