Arenas est conçu pour rationaliser le cycle de développement des agents alimentés par LLM. Les développeurs peuvent définir des personas d'agents, intégrer des API et des outils externes en tant que plugins, et composer des workflows à plusieurs étapes à l'aide d'une DSL flexible. Le cadre gère la mémoire des conversations, la gestion des erreurs et la journalisation, permettant des pipelines RAG robustes et la collaboration multi-agents. Avec une interface en ligne de commande et une API REST, les équipes peuvent prototyper des agents localement et les déployer en tant que microservices ou applications conteneurisées. Arenas supporte les fournisseurs LLM populaires, offre des tableaux de bord de surveillance et comprend des modèles intégrés pour des cas d'utilisation courants. Cette architecture flexible réduit le code boilerplate et accélère la mise sur le marché de solutions axées sur l'IA dans des domaines tels que l'engagement client, la recherche et le traitement des données.

Chat-With-CUHKSZ fournit une pipeline simplifiée pour construire un chatbot spécifique à un domaine basé sur la base de connaissances de CUHKSZ. Après avoir cloné le dépôt, les utilisateurs configurent leurs identifiants API OpenAI et spécifient les sources de documents, comme les PDF du campus, les pages web, et les articles de recherche. L'outil utilise LlamaIndex pour prétraiter et indexer les documents, créant un stockage vectoriel efficace. LangChain orchestre la récupération et les prompts, fournissant des réponses pertinentes dans une interface conversationnelle. L'architecture supporte l'ajout de documents personnalisés, la fine-tuning des stratégies de prompt, et le déploiement via Streamlit ou un serveur Python. Il intègre aussi des améliorations de recherche sémantique optionnelles, supporte la journalisation des requêtes pour l'audit, et peut être étendu à d'autres universités avec une configuration minimale.

RAGApp est conçu pour simplifier toute la pipeline RAG en fournissant des intégrations clés en main avec des bases de données vectorielles populaires (FAISS, Pinecone, Chroma, Qdrant) et de grands modèles de langage (OpenAI, Anthropic, Hugging Face). Il inclut des outils d'ingestion de données pour convertir des documents en embeddings, des mécanismes de récupération contextuelle pour une sélection précise des connaissances, et un UI de chat intégré ou un serveur API REST pour le déploiement. Les développeurs peuvent facilement étendre ou remplacer n'importe quel composant — ajouter des préprocesseurs personnalisés, intégrer des API externes en tant qu'outils, ou changer de fournisseur de LLM — tout en utilisant Docker et les outils CLI pour un prototypage rapide et le déploiement en production.