LLPhant est un framework Python open-source qui permet aux développeurs de créer des agents polyvalents pilotés par LLM. Il offre des abstractions intégrées pour l'intégration d'outils (API, recherche, bases de données), la gestion de mémoire pour des conversations multi-tours et des boucles de décision personnalisables. Avec le support de plusieurs backends LLM (OpenAI, Hugging Face, autres), des composants en style plugin et des workflows basés sur la configuration, LLPhant accélère le développement d'agents. Utilisez-le pour prototyper des chatbots, automatiser des tâches ou construire des assistants numériques tirant parti d'outils externes et de mémoire contextuelle sans code répétitif.

Rags fournit un pipeline modulaire pour construire des applications génératives augmentées par récupération. Il s'intègre avec des magasins vectoriels populaires (par ex., FAISS, Pinecone), propose des modèles de prompt configurables et inclut des modules de mémoire pour maintenir le contexte conversationnel. Les développeurs peuvent passer d’un fournisseur LLM à un autre comme Llama-2, GPT-4 et Claude2 via une API unifiée. Rags supporte la réponse en flux, la prétraitement personnalisé et des hooks d’évaluation. Son design extensible permet une intégration transparente dans les services de production, permettant l’ingestion automatique de documents, la recherche sématique et la génération de tâches pour chatbots, assistants de connaissances et le résumé de documents à grande échelle.