rag-services es una plataforma extensible que descompone las pipelines RAG en microservicios discretos. Ofrece un servicio de almacenamiento de documentos, un servicio de indexación vectorial, un servicio de embedding, múltiples servicios de inferencia LLM y un orquestador para coordinar los flujos de trabajo. Cada componente expone APIs REST, permitiéndote mezclar y combinar bases de datos y proveedores de modelos. Con soporte para Docker y Docker Compose, puedes desplegar localmente o en clústeres Kubernetes. El framework habilita soluciones RAG escalables y tolerantes a fallos para chatbots, bases de conocimientos y Q&A automáticos.

SPEAR (Plataforma escalable para inferencia de IA en el edge en tiempo real) está diseñado para gestionar todo el ciclo de vida de la inferencia de IA en el edge. Los desarrolladores pueden definir pipelines en streaming que ingieren datos de sensores, videos o logs a través de conectores hacia Kafka, MQTT o fuentes HTTP. SPEAR despliega modelos en contenedores de forma dinámica en nodos de trabajo, equilibrando cargas en clústeres y garantizando respuestas con baja latencia. Incluye versionado de modelos incorporado, controles de salud y telemetría, exponiendo métricas a Prometheus y Grafana. Los usuarios pueden aplicar transformaciones personalizadas o alertas mediante una arquitectura modular de plugins. Con escalado automático y recuperación ante fallos, SPEAR ofrece análisis en tiempo real confiables para IoT, automatización industrial, ciudades inteligentes y sistemas autónomos en entornos heterogéneos.

Universal Basic Compute ofrece un entorno unificado para diseñar, entrenar y desplegar agentes de IA en diversos flujos de trabajo. Los usuarios pueden escoger entre múltiples modelos de lenguaje grande, configurar almacenes de memoria personalizados para conciencia contextual, e integrar APIs y herramientas de terceros para ampliar funcionalidad. La plataforma gestiona automáticamente la orquestación, tolerancia a fallos y escalado, además de ofrecer paneles para monitoreo en tiempo real y análisis de desempeño. Al abstraer detalles de infraestructura, permite a los equipos centrarse en la lógica de los agentes y la experiencia del usuario, evitando complejidad de backend.

ToolFuzz proporciona un marco de pruebas de fuzzing integral, específicamente adaptado para agentes de IA que utilizan herramientas. Genera sistemáticamente secuencias aleatorias de invocación de herramientas, entradas API malformadas y combinaciones inesperadas de parámetros para someter a prueba los módulos de llamada a herramientas del agente. Los usuarios pueden definir estrategias de fuzzing personalizadas mediante una interfaz de plugins modular, integrar herramientas o APIs de terceros y ajustar reglas de mutación para enfocar modos de fallo específicos. El marco recopila trazas de ejecución, mide la cobertura del código para cada componente y destaca excepciones no gestionadas o fallos lógicos. Con agregación de resultados incorporada e informes, ToolFuzz acelera la identificación de casos límite, problemas de regresión y vulnerabilidades de seguridad, fortaleciendo en última instancia la robustez y fiabilidad de los flujos de trabajo impulsados por IA.

El repositorio Agent Supervisor Demonstrates muestra cómo orquestar varios agentes de IA autónomos en un flujo de trabajo coordinado. Escrito en Python, define una clase Supervisor para despachar tareas, monitorear el estado de los agentes, manejar fallas y agregar respuestas. Puedes extender las clases base de agentes, conectar diferentes API de modelos y configurar políticas de programación. Registra actividades para auditoría, soporta ejecución paralela y ofrece un diseño modular para fácil personalización e integración en sistemas de IA más grandes.

AgentMesh proporciona una infraestructura modular para que los desarrolladores creen redes de agentes IA, cada uno enfocado en una tarea o dominio específicos. Los agentes pueden ser descubiertos y registrados dinámicamente en tiempo de ejecución, intercambiar mensajes de manera asíncrona y seguir reglas de enrutamiento configurables. El framework gestiona reintentos, respaldos y recuperación ante errores, permitiendo tuberías multi-agente para procesamiento de datos, apoyo en decisiones o casos de uso conversacionales. Se integra fácilmente con LLM existentes y modelos personalizados mediante una interfaz de plugins sencilla.