ToolFuzz fournit un cadre complet de test de fuzzing, spécialement adapté aux agents IA utilisant des outils. Il génère systématiquement des séquences d’appel d’outil aléatoires, des entrées API mal formées et des combinaisons de paramètres inattendues pour tester les modules d’appel d’outils de l’agent. Les utilisateurs peuvent définir des stratégies de fuzzing personnalisées à l’aide d’une interface modulaire de plugins, intégrer des outils ou API tiers, et ajuster les règles de mutation pour cibler des modes d’échec spécifiques. Le framework collecte les traces d'exécution, mesure la couverture du code pour chaque composant et met en évidence les exceptions non gérées ou les défauts logiques. Avec une agrégation des résultats et des rapports intégrés, ToolFuzz accélère l’identification des cas limites, des problèmes de régression et des vulnérabilités de sécurité, renforçant ainsi la robustesse et la fiabilité des flux de travail basés sur l’IA.

AgentMesh fournit une infrastructure modulaire pour que les développeurs créent des réseaux d'agents IA, chacun se concentrant sur une tâche ou un domaine spécifique. Les agents peuvent être découverts et enregistrés dynamiquement à l'exécution, échangent des messages de manière asynchrone et suivent des règles de routage configurables. Le framework gère les tentatives, les sauvegardes et la récupération en cas d'erreur, permettant des pipelines multi-agents pour le traitement des données, le soutien à la décision ou des cas d'utilisation conversationnels. Il s'intègre facilement aux LLM existants et aux modèles personnalisés via une interface de plugin simple.

rag-services est une plateforme extensible qui décompose les pipelines RAG en microservices discrets. Elle offre un service de stockage de documents, un service d'indexation vectorielle, un service d'embedding, plusieurs services d'inférence LLM et un orchestrateur pour coordonner les flux de travail. Chaque composant expose des API REST, vous permettant de mélanger et d'associer bases de données et fournisseurs de modèles. Avec la prise en charge de Docker et Docker Compose, vous pouvez déployer localement ou dans des clusters Kubernetes. Le cadre permet des solutions RAG évolutives et tolérantes aux pannes pour chatbots, bases de connaissances et Q&A automatiques.

ROSA (Rover Sequencing & Autonomy) est un cadre complet d'autonomie développé par le Jet Propulsion Laboratory de la NASA pour la robotique spatiale. Il présente un planificateur IA modulaire, un ordonnanceur sensible aux contraintes, et des simulateurs intégrés qui produisent des séquences de commandes validées pour les opérations de rover. Les utilisateurs peuvent définir des objectifs de mission, des contraintes de ressources, et des règles de sécurité; ROSA générera des plans d'exécution optimaux, détectera les conflits, et soutiendra une replanification rapide en réponse à des événements inattendus. Son architecture en plugins permet l'intégration avec des capteurs, actionneurs, et outils d'analyse de télémetrie personnalisés, facilitant l'autonomie de mission de bout en bout pour l'exploration planétaire.

SPEAR (Scalable Platform for Edge AI Real-Time) est conçu pour gérer le cycle de vie complet de l'inférence IA en périphérie. Les développeurs peuvent définir des pipelines de flux qui ingèrent des données de capteurs, vidéos ou journaux via des connecteurs vers Kafka, MQTT ou sources HTTP. SPEAR déploie dynamiquement des modèles containerisés sur des nœuds de travail, équilibrant la charge à travers des clusters tout en garantissant des réponses à faible latence. Il comprend une gestion de version intégrée, des contrôles de santé et de la télémétrie, et expose des métriques à Prometheus et Grafana. Les utilisateurs peuvent appliquer des transformations personnalisées ou des alertes via une architecture de plugins modulaires. Avec une mise à l’échelle automatisée et une récupération d’erreurs, SPEAR fournit une analyse en temps réel fiable pour l’IoT, l’automatisation industrielle, les villes intelligentes et les systèmes autonomes dans des environnements hétérogènes.