La Arquitectura Modular LLM está diseñada para simplificar la creación de aplicaciones personalizadas impulsadas por LLM mediante un diseño componible y modular. Proporciona componentes principales como módulos de memoria para retención del estado de la sesión, interfaces de herramientas para llamadas a API externas, gestores de indicaciones para generación de indicaciones basadas en plantillas o dinámicas, y motores de orquestación para controlar el flujo de trabajo del agente. Puede configurar tuberías que enlacen estos módulos, permitiendo comportamientos complejos como razonamiento en múltiples pasos, respuestas dependientes del contexto y recuperación de datos integrada. El marco soporta múltiples backends de LLM, permitiéndole cambiar o mezclar modelos, y ofrece puntos de extensión para agregar nuevos módulos o lógica personalizada. Esta arquitectura acelera el desarrollo fomentando la reutilización de componentes, manteniendo la transparencia y el control sobre el comportamiento del agente.