Crawlr est un agent IA open-source en CLI conçu pour rationaliser le processus d'insertion d'informations en ligne dans des bases de connaissances structurées. Utilisant les modèles GPT-3.5/4 d'OpenAI, il parcourt les URL spécifiées, nettoie et divise le HTML brut en segments de texte significatifs, génère des résumés concis et crée des embeddings vecteurs pour une recherche sémantique efficace. L'outil prend en charge la configuration de la profondeur d'exploration, des filtres de domaine et de la taille des chunks, permettant aux utilisateurs d'adapter les pipelines d'insertion aux besoins du projet. En automatisant la découverte de liens et le traitement du contenu, Crawlr réduit l'effort de collecte manuelle de données, accélère la création de FAQ, chatbots et archives de recherche, et s'intègre de manière transparente avec des bases de données vectorielles comme Pinecone, Weaviate ou SQLite local. Sa conception modulaire permet une extension facile pour des analyseurs personnalisés et des fournisseurs d'embeddings.

Agentic-RAG-DeepSeek combine l'orchestration agentique avec des techniques RAG pour permettre des applications avancées de conversation et de recherche. Il traite d'abord des corpus documentaires, générant des embeddings à l'aide de LLMs et les stockant dans la base de données vectorielle DeepSeek. En exécution, un agent IA récupère des passages pertinents, construit des prompts contextuels et utilise des LLM pour synthétiser des réponses précises et concises. Le framework supporte des workflows de raisonnement itératifs multi-étapes, des opérations basées sur des outils, et des politiques personnalisables pour un comportement agent flexible. Les développeurs peuvent étendre les composants, intégrer des API ou outils supplémentaires et surveiller la performance des agents. Qu'il s'agisse de systèmes Q&A dynamiques, d'assistants de recherche automatisés ou de chatbots spécifiques à un domaine, Agentic-RAG-DeepSeek offre une plateforme modulaire et évolutive pour des solutions d'IA à récupération dirigée.