FastAPI Agents ofrece una capa de servicio robusta para el desarrollo de agentes basados en LLM utilizando el framework web FastAPI. Permite definir comportamientos de agentes con cadenas LangChain, herramientas y sistemas de memoria. Cada agente puede exponerse como un endpoint REST estándar, soportando solicitudes asíncronas, respuestas en streaming y cargas útiles personalizadas. La integración con almacenes vectoriales permite generación aumentada por recuperación para aplicaciones basadas en conocimiento. El framework incluye registros integrados, ganchos de monitoreo y soporte para Docker para despliegues en contenedor. Es fácil extender agentes con nuevas herramientas, middleware y autenticación. FastAPI Agents acelera la preparación para producción de soluciones IA, asegurando seguridad, escalabilidad y mantenibilidad en aplicaciones empresariales e investigativas.

SPEAR (Plataforma escalable para inferencia de IA en el edge en tiempo real) está diseñado para gestionar todo el ciclo de vida de la inferencia de IA en el edge. Los desarrolladores pueden definir pipelines en streaming que ingieren datos de sensores, videos o logs a través de conectores hacia Kafka, MQTT o fuentes HTTP. SPEAR despliega modelos en contenedores de forma dinámica en nodos de trabajo, equilibrando cargas en clústeres y garantizando respuestas con baja latencia. Incluye versionado de modelos incorporado, controles de salud y telemetría, exponiendo métricas a Prometheus y Grafana. Los usuarios pueden aplicar transformaciones personalizadas o alertas mediante una arquitectura modular de plugins. Con escalado automático y recuperación ante fallos, SPEAR ofrece análisis en tiempo real confiables para IoT, automatización industrial, ciudades inteligentes y sistemas autónomos en entornos heterogéneos.