SPEAR (Масштабируемая платформа для реального времени ИИ-инференции на периферии) предназначена для управления полным жизненным циклом ИИ-инференции на периферии. Разработчики могут определять потоки данных, которые собирают сенсорные данные, видео или журналы через коннекторы к Kafka, MQTT или HTTP. SPEAR динамически развертывает контейнерные модели на рабочих узлах, балансируя нагрузку по кластеру и обеспечивая низкую задержку отклика. В ней реализовано встроенное управление версиями моделей, проверки состояния и телеметрия, что позволяет собирать метрики в Prometheus и Grafana. Пользователи могут применять пользовательские преобразования или оповещения с помощью модульной архитектуры плагинов. Благодаря автоматическому масштабированию и восстановлению после сбоев, SPEAR обеспечивает надежную аналитику в реальном времени для IoT, промышленной автоматизации, умных городов и автономных систем в разнородных средах.

AgentMesh предоставляет модульную инфраструктуру, позволяющую разработчикам создавать сети AI-агентов, каждый из которых сосредоточен на конкретной задаче или области. Агенты могут обнаруживаться и регистрироваться динамически во время выполнения, обмениваться сообщениями асинхронно и следовать настраиваемым правилам маршрутизации. Фреймворк управляет повторными попытками, резервными копиями и восстановлением ошибок, поддерживая многогранные конвейеры для обработки данных, поддержки принятия решений или диалоговых приложений. Легко интегрируется с существующими моделями LLM и пользовательскими моделями через простой интерфейс плагинов.