LlamaIndex é uma biblioteca Python focada em desenvolvedores, projetada para conectar grandes modelos de linguagem a dados privados ou específicos de domínio. Oferece múltiplos tipos de índice — como vetores, árvores e índices de palavras-chave — além de adaptadores para bancos de dados, sistemas de arquivos e APIs web. A estrutura inclui ferramentas para dividir documentos em nós, incorporar esses nós usando modelos de incorporação populares e realizar buscas inteligentes para fornecer contexto a um LLM. Com cache embutido, esquemas de consulta e gerenciamento de nós, LlamaIndex simplifica a construção de geração aumentada por recuperação, permitindo respostas altamente precisas e ricas em contexto em aplicações como chatbots, serviços de QA e pipelines de análise.

No seu núcleo, Memary fornece um sistema modular de gerenciamento de memória adaptado para agentes de modelos de linguagem grande. Ao abstrair as interações de memória por meio de uma API comum, ele suporta múltiplos backends de armazenamento, incluindo dicionários em memória, Redis para cache distribuído e armazenamentos vetoriais como Pinecone ou FAISS para busca semântica. Os usuários podem definir memórias baseadas em esquemas (episódicas, semânticas ou de longo prazo) e utilizar modelos de embedding para preencher automaticamente os armazenamentos vetoriais. Funções de recuperação permitem uma recordação relevante do contexto durante conversas, aprimorando as respostas dos agentes com interações passadas ou dados específicos de domínio. Projetado para extensibilidade, Memary pode integrar backends de memória personalizados e funções de embedding, sendo ideal para desenvolver aplicações robustas e com estado, como assistentes virtuais, bots de atendimento ao cliente e ferramentas de pesquisa que exigem conhecimento persistente ao longo do tempo.