SmartRAG é uma biblioteca Python modular projetada para fluxos de trabalho de geração aprimorada por recuperação (RAG) com modelos de linguagem grandes. Ele combina ingestão de documentos, indexação vetorial e APIs de LLM de ponta para fornecer respostas precisas e ricas em contexto. Os usuários podem importar PDFs, arquivos de texto ou páginas web, indexá-los usando lojas de vetores populares como FAISS ou Chroma, e definir templates de prompts personalizados. O SmartRAG coordena a recuperação, montagem de prompts e inferência de LLM, retornando respostas coerentes fundamentadas nos documentos fonte. Ao abstrair a complexidade de pipelines RAG, ele acelera o desenvolvimento de sistemas de perguntas e respostas de base de conhecimento, chatbots e assistentes de pesquisa. Desenvolvedores podem estender conectores, trocar provedores de LLM e ajustar estratégias de recuperação para atender a domínios de conhecimento específicos.

Steel é uma estrutura centrada no desenvolvedor projetada para acelerar a criação e operação de agentes alimentados por LLM em ambientes de produção. Oferece conectores independentes de provedores para APIs de modelos principais, armazenamento de memória na memória e persistente, padrões de invocação de ferramentas integradas, cache automático de respostas e rastreamento detalhado para observabilidade. Os desenvolvedores podem definir fluxos de trabalho complexos de agentes, integrar ferramentas personalizadas (por exemplo, busca, consultas a bancos de dados e APIs externas) e lidar com saídas de streaming. Steel abstrai a complexidade da orquestração, permitindo que as equipes se concentrem na lógica de negócios e iterem rapidamente em aplicações orientadas por IA.