Query-Bot intègre l'ingestion de documents, la segmentation de texte et les embeddings vectoriels pour créer un index consultable à partir de PDFs, fichiers texte et documents Word. En utilisant LangChain et GPT-3.5 Turbo d'OpenAI, il traite les requêtes des utilisateurs en récupérant les passages pertinents et en générant des réponses concises. L'interface UI basée sur Streamlit permet aux utilisateurs de télécharger des fichiers, de suivre l'historique des conversations et d'ajuster les paramètres. Il peut être déployé localement ou sur des environnements cloud, offrant un cadre extensible pour des agents personnalisés et des bases de connaissances.

Chat-With-CUHKSZ fournit une pipeline simplifiée pour construire un chatbot spécifique à un domaine basé sur la base de connaissances de CUHKSZ. Après avoir cloné le dépôt, les utilisateurs configurent leurs identifiants API OpenAI et spécifient les sources de documents, comme les PDF du campus, les pages web, et les articles de recherche. L'outil utilise LlamaIndex pour prétraiter et indexer les documents, créant un stockage vectoriel efficace. LangChain orchestre la récupération et les prompts, fournissant des réponses pertinentes dans une interface conversationnelle. L'architecture supporte l'ajout de documents personnalisés, la fine-tuning des stratégies de prompt, et le déploiement via Streamlit ou un serveur Python. Il intègre aussi des améliorations de recherche sémantique optionnelles, supporte la journalisation des requêtes pour l'audit, et peut être étendu à d'autres universités avec une configuration minimale.