LlamaIndex es una biblioteca de Python centrada en desarrolladores, diseñada para crear puentes entre grandes modelos de lenguaje y datos privados o específicos de dominio. Ofrece múltiples tipos de índices, como vectores, árboles e índices de palabras clave, además de adaptadores para bases de datos, sistemas de archivos y APIs web. El marco incluye herramientas para dividir documentos en nodos, incrustar esos nodos mediante modelos de incrustación populares y realizar búsquedas inteligentes para proporcionar contexto a un LLM. Con almacenamiento en caché integrado, esquemas de consultas y gestión de nodos, LlamaIndex simplifica la creación de generación aumentada por recuperación, permitiendo respuestas altamente precisas y ricas en contexto en aplicaciones como chatbots, servicios de QA y canales de análisis.

Agentic Shared Memory proporciona una solución robusta para gestionar datos contextuales en entornos multiagente impulsados por IA. Aprovechando embeddings vectoriales y estructuras de datos eficientes, almacena observaciones, decisiones y transiciones de estado de los agentes, permitiendo una recuperación y actualización sin fisuras del contexto. Los agentes pueden consultar la memoria compartida para acceder a interacciones pasadas o conocimientos globales, fomentando un comportamiento coherente y la resolución colaborativa de problemas. La biblioteca soporta integración plug-and-play con frameworks de IA populares como LangChain o coordinadores de agentes personalizados, ofreciendo estrategias de retención personalizables, ventanas de contexto y funciones de búsqueda. Al abstraer la gestión de la memoria, los desarrolladores pueden centrarse en la lógica del agente y garantizar una gestión escalable y coherente de la memoria en implementaciones distribuidas o centralizadas. Esto mejora el rendimiento del sistema, reduce cálculos redundantes y aumenta la inteligencia de los agentes con el tiempo.

Chat-With-CUHKSZ ofrece un flujo de trabajo simplificado para construir un chatbot específico en el dominio basado en la base de conocimientos de CUHKSZ. Después de clonar el repositorio, los usuarios configuran sus credenciales de la API de OpenAI y especifican las fuentes de documentos, como PDFs del campus, páginas web y artículos de investigación. La herramienta usa LlamaIndex para preprocesar e indexar los documentos, creando una tienda vectorial eficiente. LangChain orquesta la recuperación y las solicitudes, entregando respuestas relevantes en una interfaz conversacional. La arquitectura admite añadir documentos personalizados, ajustar las estrategias de solicitudes y desplegar vía Streamlit o un servidor Python. También integra mejoras opcionales de búsqueda semántica, soporta registros de consultas para auditoría y puede extenderse a otras universidades con configuración mínima.