QueryCraft est un outil d'ingénierie des invites basé sur Python, conçu pour rationaliser le développement des agents IA. Il permet aux utilisateurs de définir des invites structurées via un pipeline modulaire, de se connecter sans problème à plusieurs API LLM, et de réaliser des évaluations automatisées selon des métriques personnalisées. Avec une journalisation intégrée de l’utilisation des jetons et des coûts, les développeurs peuvent mesurer la performance, comparer différentes versions d’invites et identifier des inefficacités. QueryCraft comprend également des outils de débogage pour inspecter les sorties du modèle, visualiser les étapes du flux de travail et effectuer des benchmarks sur différents modèles. Ses interfaces CLI et SDK permettent une intégration dans les pipelines CI/CD, favorisant une itération rapide et une collaboration efficace. En fournissant un environnement complet pour la conception, le test et l’optimisation des invites, QueryCraft aide les équipes à fournir des solutions d’agents IA plus précises, efficaces et rentables.

Stellar Chat permet aux équipes de créer des agents d'IA conversationnelle en fournissant un cadre robuste qui abstrait les interactions LLM, la gestion de la mémoire et l'intégration d'outils. Au cœur, il présente un pipeline extensible qui gère le prétraitement des entrées utilisateur, l'enrichissement du contexte via la récupération de mémoire basée sur des vecteurs, et l'invocation de LLM avec des stratégies de prompting configurables. Les développeurs peuvent utiliser des solutions de stockage vectoriel populaires comme Pinecone, Weaviate ou FAISS, et intégrer des API tierces ou des plugins personnalisés pour des tâches comme la recherche Web, les requêtes à la base de données ou le contrôle d'applications d'entreprise. Avec un support pour la sortie en streaming et des boucles de rétroaction en temps réel, Stellar Chat garantit des expériences utilisateur réactives. Il inclut également des modèles de départ et des exemples de bonnes pratiques pour les bots d'assistance client, la recherche de connaissances et l'automatisation des flux de travail internes. Déployé avec Docker ou Kubernetes, il évolue pour répondre aux exigences de production tout en restant entièrement open-source sous licence MIT.