Granite Retrieval Agent offre aux développeurs une plateforme flexible pour construire des agents IA génératives augmentés par récupération combinant recherche sémantique et grands modèles linguistiques. Les utilisateurs peuvent ingérer des documents provenant de sources diverses, créer des embeddings vectoriels et configurer des index Azure Cognitive Search ou d'autres magasins vectoriels. Lorsqu’une requête arrive, l’agent récupère les passages les plus pertinents, construit des fenêtres contextuelles et appelle les API LLM pour des réponses ou résumés précis. Il supporte la gestion de la mémoire, l’orchestration en chaîne de la réflexion et des plugins personnalisés pour le pré et post-traitement. Déployable via Docker ou directement en Python, Granite Retrieval Agent accélère la création de chatbots basés sur la connaissance, assistants d'entreprise et systèmes Q&A avec moins d’hallucinations et une meilleure précision factuelle.

OmniSteward est une plateforme modulaire d'orchestration d'agents IA construite sur Python, connectée à OpenAI, à des LLM locaux et supportant des modèles personnalisés. Elle fournit des modules de mémoire pour stocker le contexte, des kits d'outils pour les appels API, la recherche web, l'exécution de code et les requêtes de base de données. Les utilisateurs définissent des modèles d'agents avec des invites, des flux de travail et des déclencheurs. Le framework orchestre plusieurs agents en parallèle, gère l'historique des conversations et automatise les tâches via des pipelines. Il comprend également de la journalisation, des tableaux de bord de surveillance, une architecture de plugins et une intégration avec des services tiers. OmniSteward simplifie la création d'assistants spécifiques à un domaine pour la recherche, les opérations, le marketing, etc., en offrant flexibilité, évolutivité et transparence open-source pour les entreprises et les développeurs.