cpp-langchain implémente les fonctionnalités principales de l'écosystème LangChain en C++. Les développeurs peuvent envelopper les appels aux grands modèles de langage, définir des modèles d'invites, assembler des chaînes et orchestrer des agents qui appellent des outils ou des API externes. Il comprend des modules de mémoire pour maintenir l'état conversationnel, le support pour les embeddings pour la recherche de similarité et des intégrations avec des bases de données vectorielles. La conception modulaire permet de personnaliser chaque composant — clients LLM, stratégies d'invites, backends de mémoire et toolkits — pour répondre à des cas d'usage spécifiques. En offrant une bibliothèque uniquement en en-tête et une compatibilité CMake, cpp-langchain simplifie la compilation d'applications AI natives sur Windows, Linux et macOS sans nécessiter d'environnement Python.

Cyrano est un framework open-source et une CLI en Python pour créer des agents IA orchestrant de grands modèles linguistiques et des outils externes via des invites en langage naturel. Les utilisateurs peuvent définir des outils personnalisés (fonctions), configurer la mémoire et les limites de tokens, et gérer les callbacks. Cyrano gère l'analyse des réponses JSON des LLMs et exécute en séquence les outils spécifiés. Il met l'accent sur la simplicité, la modularité et zéro dépendance externe, permettant aux développeurs de prototyper rapidement des chatbots, de construire des workflows automatisés et d'intégrer rapidement des capacités IA dans des applications.