MindSearch offre une architecture modulaire pour la génération augmentée par récupération, conçue pour améliorer les grands modèles linguistiques avec un accès aux connaissances en temps réel. En se connectant à diverses sources de données, notamment les systèmes de fichiers locaux, les stocks de documents et les bases de données vectorielles dans le cloud, MindSearch indexe et intègre les documents à l'aide de modèles d'intégration configurables. Pendant l'exécution, il récupère le contexte le plus pertinent, re-ridge les résultats en utilisant des fonctions de scoring personnalisables et compose une invite complète pour que les LLM générent des réponses précises. Il supporte le cache, les types de données multimodaux et les pipelines combinant plusieurs récupérateurs. L'API flexible permet aux développeurs de ajuster les paramètres d'intégration, les stratégies de récupération, les méthodes de découpage et les modèles de prompt. Que ce soit pour créer des assistants AI conversationnels, des systèmes de questions-réponses ou des chatbots spécifiques à un domaine, MindSearch simplifie l'intégration des connaissances externes dans les applications pilotées par LLM.

L'architecture modulaire LLM est conçue pour simplifier la création d'applications personnalisées pilotées par LLM via une conception modulaire et composable. Elle fournit des composants clés tels que des modules de mémoire pour la rétention d'état de session, des interfaces d'outils pour les appels d'API externes, des gestionnaires de prompts pour la génération de prompts basés sur des modèles ou dynamique, et des moteurs d'orchestration pour contrôler le flux de travail de l'agent. Vous pouvez configurer des pipelines en chaînant ces modules, permettant des comportements complexes tels que le raisonnement en plusieurs étapes, des réponses contextuelles et la récupération de données intégrée. La structure supporte plusieurs backends LLM, vous permettant de changer ou de mélanger des modèles, et offre des points d'extension pour ajouter de nouveaux modules ou une logique personnalisée. Cette architecture accélère le développement en promouvant la réutilisation des composants tout en maintenant la transparence et le contrôle sur le comportement de l'agent.