Letta é uma plataforma abrangente de orquestração de agentes de IA projetada para capacitar organizações a automatizar fluxos de trabalho complexos através de trabalhadores digitais inteligentes. Combinando modelos de agentes personalizáveis com um poderoso construtor visual de fluxos de trabalho, Letta permite às equipes definir processos passo a passo, integrar uma variedade de APIs e fontes de dados, e implantar agentes autônomos que lidam com tarefas como processamento de documentos, análise de dados, engajamento de clientes e monitoramento de sistemas. Construída sobre uma arquitetura de microsserviços, oferece suporte embutido para modelos de IA populares, controle de versões e ferramentas de governança. Painéis em tempo real fornecem insights sobre a atividade dos agentes, métricas de desempenho e gerenciamento de erros, garantindo transparência e confiabilidade. Com controles de acesso baseados em funções e opções de implantação seguras, Letta escala de projetos piloto para gestão de força de trabalho digital em toda a empresa.

rag-services é uma plataforma extensível que divide pipelines RAG em microsserviços discretos. Oferece um serviço de armazenamento de documentos, um serviço de índice vetorial, um serviço de embedder, múltiplos serviços de inferência de LLM e um serviço de orquestração para coordenar fluxos de trabalho. Cada componente expõe APIs REST, permitindo combinar bancos de dados e provedores de modelos. Com suporte a Docker e Docker Compose, pode ser implantado localmente ou em clusters Kubernetes. A estrutura permite soluções RAG escaláveis e tolerantes a falhas para chatbots, bases de conhecimento e respostas automáticas a documentos.