SPEAR (Plataforma escalable para inferencia de IA en el edge en tiempo real) está diseñado para gestionar todo el ciclo de vida de la inferencia de IA en el edge. Los desarrolladores pueden definir pipelines en streaming que ingieren datos de sensores, videos o logs a través de conectores hacia Kafka, MQTT o fuentes HTTP. SPEAR despliega modelos en contenedores de forma dinámica en nodos de trabajo, equilibrando cargas en clústeres y garantizando respuestas con baja latencia. Incluye versionado de modelos incorporado, controles de salud y telemetría, exponiendo métricas a Prometheus y Grafana. Los usuarios pueden aplicar transformaciones personalizadas o alertas mediante una arquitectura modular de plugins. Con escalado automático y recuperación ante fallos, SPEAR ofrece análisis en tiempo real confiables para IoT, automatización industrial, ciudades inteligentes y sistemas autónomos en entornos heterogéneos.

AgentMesh es un marco centrado en el desarrollador que permite registrar agentes de IA individuales y enlazarlos en una red dinámica. Cada agente puede especializarse en una tarea específica — como prompting de LLM, recuperación o lógica personalizada — y AgentMesh se encarga del enrutamiento, balanceo de carga, manejo de errores y telemetría en toda la red. Esto permite construir flujos de trabajo complejos, encadenar agentes y escalar la ejecución de manera horizontal. Con transportes modulares, sesiones con estado y hooks de extensibilidad, AgentMesh acelera la creación de sistemas robustos y distribuidos de agentes de IA.

APIPark sirve como un gateway LLM integral que ofrece una gestión eficiente y segura de grandes modelos de lenguaje. Soporta más de 200 LLMs, permitiendo una gestión visual granular y se integra sin problemas en entornos de producción. La plataforma proporciona balanceo de carga, monitoreo de tráfico en tiempo real y caching semántico inteligente. Además, APIPark facilita la gestión de solicitudes y la transformación de APIs, ofreciendo características de seguridad robustas como el enmascaramiento de datos para proteger información sensible. Su naturaleza de código abierto y diseño centrado en desarrolladores lo convierten en una herramienta versátil para empresas que buscan optimizar la implementación y gestión de sus modelos de IA.