SPEAR (Scalable Platform for Edge AI Real-Time) est conçu pour gérer le cycle de vie complet de l'inférence IA en périphérie. Les développeurs peuvent définir des pipelines de flux qui ingèrent des données de capteurs, vidéos ou journaux via des connecteurs vers Kafka, MQTT ou sources HTTP. SPEAR déploie dynamiquement des modèles containerisés sur des nœuds de travail, équilibrant la charge à travers des clusters tout en garantissant des réponses à faible latence. Il comprend une gestion de version intégrée, des contrôles de santé et de la télémétrie, et expose des métriques à Prometheus et Grafana. Les utilisateurs peuvent appliquer des transformations personnalisées ou des alertes via une architecture de plugins modulaires. Avec une mise à l’échelle automatisée et une récupération d’erreurs, SPEAR fournit une analyse en temps réel fiable pour l’IoT, l’automatisation industrielle, les villes intelligentes et les systèmes autonomes dans des environnements hétérogènes.

AgentMesh fournit une infrastructure modulaire pour que les développeurs créent des réseaux d'agents IA, chacun se concentrant sur une tâche ou un domaine spécifique. Les agents peuvent être découverts et enregistrés dynamiquement à l'exécution, échangent des messages de manière asynchrone et suivent des règles de routage configurables. Le framework gère les tentatives, les sauvegardes et la récupération en cas d'erreur, permettant des pipelines multi-agents pour le traitement des données, le soutien à la décision ou des cas d'utilisation conversationnels. Il s'intègre facilement aux LLM existants et aux modèles personnalisés via une interface de plugin simple.