Le portail AIMS de Lyzr fournit aux entreprises un outil de gestion robuste pour leurs agents IA. Fonctionnant localement sur le cloud de l'entreprise, le portail offre des fonctionnalités complètes pour suivre les métriques de performance, enregistrer les requêtes et surveiller les erreurs. Cette solution garantit la confidentialité des données et permet aux entreprises de faire évoluer efficacement leurs opérations IA tout en conservant un contrôle total sur leur environnement de données. Le portail est conçu pour améliorer les opérations et augmenter la productivité grâce à une intégration transparente et des SDK à faible code.

Chat-With-CUHKSZ fournit une pipeline simplifiée pour construire un chatbot spécifique à un domaine basé sur la base de connaissances de CUHKSZ. Après avoir cloné le dépôt, les utilisateurs configurent leurs identifiants API OpenAI et spécifient les sources de documents, comme les PDF du campus, les pages web, et les articles de recherche. L'outil utilise LlamaIndex pour prétraiter et indexer les documents, créant un stockage vectoriel efficace. LangChain orchestre la récupération et les prompts, fournissant des réponses pertinentes dans une interface conversationnelle. L'architecture supporte l'ajout de documents personnalisés, la fine-tuning des stratégies de prompt, et le déploiement via Streamlit ou un serveur Python. Il intègre aussi des améliorations de recherche sémantique optionnelles, supporte la journalisation des requêtes pour l'audit, et peut être étendu à d'autres universités avec une configuration minimale.

DB-conv est une bibliothèque Python légère conçue pour permettre une IA conversationnelle sur des bases de données SQL. Après installation, les développeurs la configurent avec les détails de connexion à la base et les identifiants du fournisseur LLM. DB-conv gère l’inspection du schéma, construit des SQL optimisés à partir des prompts utilisateur, exécute les requêtes et renvoie les résultats sous forme de tableaux ou de graphiques. Elle supporte plusieurs moteurs de bases de données, le caching, la journalisation des requêtes et des modèles de prompts personnalisés. En abstraisant la conception de prompts et la génération de SQL, DB-conv simplifie la création de chatbots, d’assistants vocaux ou d’interfaces web pour l’exploration autonome des données.

Le MCP Agent Proxy agit comme un service middleware entre vos applications et l'API OpenAI. Il transfère de manière transparente les appels ChatCompletion et Embedding, gère le streaming des réponses aux clients, met en cache les résultats pour améliorer la performance et réduire les coûts, journalise les métadonnées des requêtes et réponses pour le débogage, et permet une personnalisation à la volée des paramètres API. Les développeurs peuvent l'intégrer dans des frameworks d'agents existants pour simplifier le traitement multi-canaux et maintenir une seule endpoint gérée pour toutes les interactions IA.