Co-Sight est un framework d'IA open-source qui simplifie le développement et le déploiement de solutions d'analyses vidéo en temps réel. Il fournit des modules pour l'ingestion de données vidéo, le prétraitement, la formation de modèles et l'inférence distribuée sur l'Edge et le Cloud. Avec un support intégré pour la détection d'objets, la classification, le suivi et l'orchestration de pipelines, Co-Sight garantit une faible latence et un haut débit. Son architecture modulaire s'intègre facilement avec des bibliothèques d'apprentissage profond populaires et peut évoluer sans effort avec Kubernetes. Les développeurs peuvent définir des pipelines via YAML, déployer avec Docker et surveiller les performances via un tableau de bord web. Co-Sight permet de créer des applications de vision avancée pour la surveillance des villes intelligentes, le transport intelligent et l'inspection de qualité industrielle, en réduisant le temps de développement et la complexité opérationnelle.

Hyperpocket est un moteur d'inférence modulaire qui permet aux développeurs d'importer des grands modèles linguistiques pré-entraînés, de les convertir en formats optimisés et de les exécuter localement avec des dépendances minimales. Il prend en charge des techniques de quantification pour réduire la taille du modèle et accélérer la performance sur CPU et dispositifs ARM. Le framework expose des interfaces en C++ et Python, permettant une intégration transparente dans les applications et pipelines existants. Hyperpocket gère automatiquement l'allocation mémoire, la tokenisation et le batching pour assurer des réponses à faible latence cohérentes. Sa conception multiplateforme signifie que le même modèle peut fonctionner sous Windows, Linux, macOS et systèmes embarqués sans modification. Cela fait d'Hyperpocket un outil idéal pour la mise en œuvre de chatbots axés sur la vie privée, l'analyse de données hors ligne et des outils IA personnalisés sur du matériel Edge.