rag-services est une plateforme extensible qui décompose les pipelines RAG en microservices discrets. Elle offre un service de stockage de documents, un service d'indexation vectorielle, un service d'embedding, plusieurs services d'inférence LLM et un orchestrateur pour coordonner les flux de travail. Chaque composant expose des API REST, vous permettant de mélanger et d'associer bases de données et fournisseurs de modèles. Avec la prise en charge de Docker et Docker Compose, vous pouvez déployer localement ou dans des clusters Kubernetes. Le cadre permet des solutions RAG évolutives et tolérantes aux pannes pour chatbots, bases de connaissances et Q&A automatiques.

ROSA (Rover Sequencing & Autonomy) est un cadre complet d'autonomie développé par le Jet Propulsion Laboratory de la NASA pour la robotique spatiale. Il présente un planificateur IA modulaire, un ordonnanceur sensible aux contraintes, et des simulateurs intégrés qui produisent des séquences de commandes validées pour les opérations de rover. Les utilisateurs peuvent définir des objectifs de mission, des contraintes de ressources, et des règles de sécurité; ROSA générera des plans d'exécution optimaux, détectera les conflits, et soutiendra une replanification rapide en réponse à des événements inattendus. Son architecture en plugins permet l'intégration avec des capteurs, actionneurs, et outils d'analyse de télémetrie personnalisés, facilitant l'autonomie de mission de bout en bout pour l'exploration planétaire.

SPEAR (Scalable Platform for Edge AI Real-Time) est conçu pour gérer le cycle de vie complet de l'inférence IA en périphérie. Les développeurs peuvent définir des pipelines de flux qui ingèrent des données de capteurs, vidéos ou journaux via des connecteurs vers Kafka, MQTT ou sources HTTP. SPEAR déploie dynamiquement des modèles containerisés sur des nœuds de travail, équilibrant la charge à travers des clusters tout en garantissant des réponses à faible latence. Il comprend une gestion de version intégrée, des contrôles de santé et de la télémétrie, et expose des métriques à Prometheus et Grafana. Les utilisateurs peuvent appliquer des transformations personnalisées ou des alertes via une architecture de plugins modulaires. Avec une mise à l’échelle automatisée et une récupération d’erreurs, SPEAR fournit une analyse en temps réel fiable pour l’IoT, l’automatisation industrielle, les villes intelligentes et les systèmes autonomes dans des environnements hétérogènes.

Universal Basic Compute offre un environnement unifié pour la conception, la formation et le déploiement d'agents IA dans divers flux de travail. Les utilisateurs peuvent choisir parmi plusieurs grands modèles linguistiques, configurer des magasins de mémoire personnalisés pour la conscience contextuelle et intégrer des API et outils tiers pour étendre la fonctionnalité. La plateforme gère automatiquement l'orchestration, la tolérance aux pannes et la scalabilité, tout en proposant des tableaux de bord pour la surveillance en temps réel et les analyses de performance. En abstraisant les détails d'infrastructure, elle permet aux équipes de se concentrer sur la logique des agents et l'expérience utilisateur plutôt que sur la complexité du backend.

ToolFuzz fournit un cadre complet de test de fuzzing, spécialement adapté aux agents IA utilisant des outils. Il génère systématiquement des séquences d’appel d’outil aléatoires, des entrées API mal formées et des combinaisons de paramètres inattendues pour tester les modules d’appel d’outils de l’agent. Les utilisateurs peuvent définir des stratégies de fuzzing personnalisées à l’aide d’une interface modulaire de plugins, intégrer des outils ou API tiers, et ajuster les règles de mutation pour cibler des modes d’échec spécifiques. Le framework collecte les traces d'exécution, mesure la couverture du code pour chaque composant et met en évidence les exceptions non gérées ou les défauts logiques. Avec une agrégation des résultats et des rapports intégrés, ToolFuzz accélère l’identification des cas limites, des problèmes de régression et des vulnérabilités de sécurité, renforçant ainsi la robustesse et la fiabilité des flux de travail basés sur l’IA.

Agent-Oriented Architecture (AOA) est un cadre robuste qui équipe les développeurs d'outils pour construire et maintenir des systèmes multi-agents intelligents. Les agents encapsulent l'état, les comportements et les modèles d'interaction, communiquant via un bus de messages asynchrone. AOA comprend des modules pour l'enregistrement, la découverte et la mise en correspondance des agents, permettant une composition dynamique de services. La modélisation du comportement prend en charge les machines à états finis, la planification axée sur les objectifs et les déclencheurs basés sur les événements. Le cadre gère les événements du cycle de vie des agents tels que la création, la suspension, la migration et la terminaison. La surveillance intégrée et la journalisation facilitent l'optimisation des performances et le débogage. La couche de transport adaptable d'AOA prend en charge TCP, HTTP et des protocoles personnalisés, la rendant adaptable aux déploiements sur site, dans le cloud ou en edge. L'intégration avec des bibliothèques populaires assure une intégration transparente des données et des modèles d'IA.

Le dépôt Agent Supervisor Example démontre comment orchestrer plusieurs agents AI autonomes dans un flux de travail coordonné. Écrit en Python, il définit une classe Supervisor pour dispatcher des tâches, surveiller le statut des agents, gérer les échecs et agréger les réponses. Vous pouvez étendre les classes d'agents de base, brancher différentes API de modèles et configurer les politiques de planification. Il enregistre les activités pour l'audit, supporte l'exécution parallèle et offre une conception modulaire pour une personnalisation facile et une intégration dans de plus grands systèmes d'IA.

AgentMesh fournit une infrastructure modulaire pour que les développeurs créent des réseaux d'agents IA, chacun se concentrant sur une tâche ou un domaine spécifique. Les agents peuvent être découverts et enregistrés dynamiquement à l'exécution, échangent des messages de manière asynchrone et suivent des règles de routage configurables. Le framework gère les tentatives, les sauvegardes et la récupération en cas d'erreur, permettant des pipelines multi-agents pour le traitement des données, le soutien à la décision ou des cas d'utilisation conversationnels. Il s'intègre facilement aux LLM existants et aux modèles personnalisés via une interface de plugin simple.