Stellar Chat permet aux équipes de créer des agents d'IA conversationnelle en fournissant un cadre robuste qui abstrait les interactions LLM, la gestion de la mémoire et l'intégration d'outils. Au cœur, il présente un pipeline extensible qui gère le prétraitement des entrées utilisateur, l'enrichissement du contexte via la récupération de mémoire basée sur des vecteurs, et l'invocation de LLM avec des stratégies de prompting configurables. Les développeurs peuvent utiliser des solutions de stockage vectoriel populaires comme Pinecone, Weaviate ou FAISS, et intégrer des API tierces ou des plugins personnalisés pour des tâches comme la recherche Web, les requêtes à la base de données ou le contrôle d'applications d'entreprise. Avec un support pour la sortie en streaming et des boucles de rétroaction en temps réel, Stellar Chat garantit des expériences utilisateur réactives. Il inclut également des modèles de départ et des exemples de bonnes pratiques pour les bots d'assistance client, la recherche de connaissances et l'automatisation des flux de travail internes. Déployé avec Docker ou Kubernetes, il évolue pour répondre aux exigences de production tout en restant entièrement open-source sous licence MIT.
