OSU NLP Middleware é uma estrutura leve construída em Python que simplifica o desenvolvimento de sistemas de agentes AI. Fornece um loop central de agente que orquestra as interações entre modelos de linguagem natural e funções de ferramentas externas definidas como plugins. A estrutura suporta provedores populares de LLM (OpenAI, Hugging Face, etc.) e permite que os desenvolvedores registrem ferramentas personalizadas para tarefas como consultas a bancos de dados, recuperação de documentos, pesquisa na web, cálculos matemáticos e chamadas de API RESTful. O Middleware gerencia o histórico de conversas, lida com limites de taxa e registra todas as interações. Também oferece políticas configuráveis de cache e retentativas para maior confiabilidade, facilitando a construção de assistentes inteligentes, chatbots e fluxos de trabalho autônomos com código mínimo.

Pipe Pilot é uma ferramenta de código aberto que permite aos desenvolvedores construir, visualizar e gerenciar pipelines de IA em Python. Oferece uma API declarativa ou configuração YAML para encadear tarefas como geração de texto, classificação, enriquecimento de dados e chamadas de API REST. Os usuários podem implementar ramificações condicionais, loops, tentativas e manipuladores de erro para criar fluxos de trabalho resilientes. Pipe Pilot mantém o contexto de execução, registra cada passo e suporta modos de execução paralelo ou sequencial. Ele se integra com principais provedores de LLM, funções personalizadas e serviços externos, tornando-se ideal para automatizar relatórios, chatbots, processamento inteligente de dados e aplicações de IA complexas de várias etapas.