LlamaIndex é uma biblioteca Python focada em desenvolvedores, projetada para conectar grandes modelos de linguagem a dados privados ou específicos de domínio. Oferece múltiplos tipos de índice — como vetores, árvores e índices de palavras-chave — além de adaptadores para bancos de dados, sistemas de arquivos e APIs web. A estrutura inclui ferramentas para dividir documentos em nós, incorporar esses nós usando modelos de incorporação populares e realizar buscas inteligentes para fornecer contexto a um LLM. Com cache embutido, esquemas de consulta e gerenciamento de nós, LlamaIndex simplifica a construção de geração aumentada por recuperação, permitindo respostas altamente precisas e ricas em contexto em aplicações como chatbots, serviços de QA e pipelines de análise.

Agentic Shared Memory fornece uma solução robusta para gerenciamento de dados contextuais em ambientes multi-agente movidos por IA. Aproveitando embeddings vetoriais e estruturas de dados eficientes, ela armazena observações, decisões e transições de estado dos agentes, permitindo recuperação e atualização de contexto de forma contínua. Os agentes podem consultar a memória compartilhada para acessar interações passadas ou conhecimento global, promovendo comportamentos coerentes e resolução colaborativa de problemas. A biblioteca suporta integração plug-and-play com frameworks populares de IA como LangChain ou orquestradores de agentes personalizados, oferecendo estratégias de retenção personalizáveis, janelas de contexto e funções de busca. Ao abstrair o gerenciamento de memória, os desenvolvedores podem focar na lógica do agente, garantindo manipulação escalável e consistente de memória em implantações distribuídas ou centralizadas. Isso melhora o desempenho geral do sistema, reduz cálculos redundantes e aumenta a inteligência dos agentes ao longo do tempo.

Chat-With-CUHKSZ oferece um pipeline simplificado para construir um chatbot específico de domínio baseado na base de conhecimento do CUHKSZ. Após clonar o repositório, os usuários configuram suas credenciais de API do OpenAI e especificam fontes de documentos, como PDFs do campus, páginas da web e artigos de pesquisa. A ferramenta usa LlamaIndex para pré-processar e indexar os documentos, criando um armazenamento vetorial eficiente. O LangChain orquestra a recuperação e os prompts, entregando respostas relevantes em uma interface conversacional. A arquitetura suporta a adição de documentos personalizados, ajuste de estratégias de prompt e implantação via Streamlit ou um servidor Python. Também integra melhorias opcionais de busca semântica, suporta logging de consultas para auditoria, e pode ser estendido para outras universidades com configuração mínima.