Llama Deploy te permite transformar tus índices de datos LlamaIndex en agentes de IA listos para producción. Configurando destinos de despliegue como AWS Lambda, funciones de Vercel o contenedores Docker, obtienes APIs de chat seguras, con escalado automático, que sirven respuestas desde tu índice personalizado. Gestiona la creación de endpoints, enrutamiento de solicitudes, autenticación basada en tokens y monitoreo de rendimiento de forma sencilla. Llama Deploy simplifica todo el proceso de despliegue de IA conversacional, desde pruebas locales hasta producción, asegurando baja latencia y alta disponibilidad.

Las demostraciones del AWS Sample Model Context Protocol son un repositorio de código abierto que presenta patrones estandarizados para la gestión del contexto de grandes modelos de lenguaje (LLM) y la invocación de herramientas. Cuenta con dos demostraciones completas—una en JavaScript/TypeScript y otra en Python—que implementan el Protocolo de Contexto del Modelo, permitiendo a los desarrolladores construir agentes de IA que llaman funciones AWS Lambda, conservan el historial de conversaciones y transmiten respuestas. El código de ejemplo muestra el formateo de mensajes, la serialización de argumentos de funciones, el manejo de errores y las integraciones de herramientas personalizables, acelerando la creación de prototipos de aplicaciones de IA generativa.