EnergeticAI é uma biblioteca Node.js projetada para simplificar a integração de modelos de AI de código aberto. Ela aproveita o TensorFlow.js otimizado para funções serverless, garantindo inícios frios rápidos e desempenho eficiente. Com modelos pré-treinados para tarefas comuns de AI como embeddings e classificadores, ela acelera o processo de implantação, tornando a integração de AI perfeita para os desenvolvedores. Ao focar na otimização serverless, ela assegura até 67 vezes de execução mais rápida, ideal para a arquitetura moderna de microserviços.

rag-services é uma plataforma extensível que divide pipelines RAG em microsserviços discretos. Oferece um serviço de armazenamento de documentos, um serviço de índice vetorial, um serviço de embedder, múltiplos serviços de inferência de LLM e um serviço de orquestração para coordenar fluxos de trabalho. Cada componente expõe APIs REST, permitindo combinar bancos de dados e provedores de modelos. Com suporte a Docker e Docker Compose, pode ser implantado localmente ou em clusters Kubernetes. A estrutura permite soluções RAG escaláveis e tolerantes a falhas para chatbots, bases de conhecimento e respostas automáticas a documentos.