No seu núcleo, Memary fornece um sistema modular de gerenciamento de memória adaptado para agentes de modelos de linguagem grande. Ao abstrair as interações de memória por meio de uma API comum, ele suporta múltiplos backends de armazenamento, incluindo dicionários em memória, Redis para cache distribuído e armazenamentos vetoriais como Pinecone ou FAISS para busca semântica. Os usuários podem definir memórias baseadas em esquemas (episódicas, semânticas ou de longo prazo) e utilizar modelos de embedding para preencher automaticamente os armazenamentos vetoriais. Funções de recuperação permitem uma recordação relevante do contexto durante conversas, aprimorando as respostas dos agentes com interações passadas ou dados específicos de domínio. Projetado para extensibilidade, Memary pode integrar backends de memória personalizados e funções de embedding, sendo ideal para desenvolver aplicações robustas e com estado, como assistentes virtuais, bots de atendimento ao cliente e ferramentas de pesquisa que exigem conhecimento persistente ao longo do tempo.

Memonto funciona como uma biblioteca de middleware para agentes de IA, orchestrando todo o ciclo de vida da memória. Durante cada turno de conversa, ele registra mensagens do usuário e da IA, destila detalhes salientes e gera resumos concisos. Esses resumos são convertidos em incorporações e armazenados em bancos de dados vetoriais ou armazéns baseados em arquivo. Ao construir novos prompts, o Memonto realiza buscas semânticas para recuperar as memórias históricas mais relevantes, permitindo que os agentes mantenham o contexto, recuperem preferências do usuário e forneçam respostas personalizadas. Ele suporta múltiplos backends de armazenamento (SQLite, FAISS, Redis) e oferece pipelines configuráveis para incorporação, resumização e recuperação. Desenvolvedores podem integrar facilmente o Memonto em frameworks de agentes existentes, aumentando a coerência e o engajamento de longo prazo.

GenAI Processors fornece uma biblioteca de processadores reutilizáveis e configuráveis para construir fluxos de trabalho de IA generativa de ponta a ponta. Os desenvolvedores podem ingerir documentos, dividi-los em pedaços semânticos, gerar embeddings, armazenar e consultar vetores, aplicar estratégias de recuperação e construir prompts dinamicamente para chamadas de modelos de linguagem grande. Seu design plug-and-play permite fácil extensão de passos de processamento personalizados, integração transparente com serviços Google Cloud ou lojas de vetores externas e orquestração de pipelines RAG complexos para tarefas como resposta a perguntas, sumarização e recuperação de conhecimento.