rag-services é uma plataforma extensível que divide pipelines RAG em microsserviços discretos. Oferece um serviço de armazenamento de documentos, um serviço de índice vetorial, um serviço de embedder, múltiplos serviços de inferência de LLM e um serviço de orquestração para coordenar fluxos de trabalho. Cada componente expõe APIs REST, permitindo combinar bancos de dados e provedores de modelos. Com suporte a Docker e Docker Compose, pode ser implantado localmente ou em clusters Kubernetes. A estrutura permite soluções RAG escaláveis e tolerantes a falhas para chatbots, bases de conhecimento e respostas automáticas a documentos.

SPEAR (Plataforma escalável para inferência de IA de borda em tempo real) é projetado para gerenciar o ciclo de vida completo da inferência de IA na borda. Os desenvolvedores podem definir pipelines de streaming que ingerem dados de sensores, vídeos ou registros via conectores para Kafka, MQTT ou fontes HTTP. O SPEAR implanta dinamicamente modelos em contenederes nos nós de trabalho, equilibrando cargas entre clusters e garantindo respostas de baixa latência. Inclui versionamento de modelos embutido, verificações de saúde e telemetria, expondo métricas ao Prometheus e Grafana. Os usuários podem aplicar transformações personalizadas ou alertas através de uma arquitetura modular de plugins. Com escalonamento automático e recuperação de falhas, o SPEAR fornece análises confiáveis em tempo real para IoT, automação industrial, cidades inteligentes e sistemas autônomos em ambientes heterogêneos.

Universal Basic Compute fornece um ambiente unificado para desenhar, treinar e implantar agentes de IA em vários fluxos de trabalho. Os usuários podem escolher entre múltiplos modelos de linguagem grande, configurar armazenamentos de memória customizados para consciência contextual e integrar APIs e ferramentas de terceiros para estender funcionalidades. A plataforma gerencia automaticamente a orquestração, tolerância a falhas e escalabilidade, oferecendo dashboards para monitoramento em tempo real e análises de desempenho. Ao abstrair detalhes de infraestrutura, ela capacita equipes a focar na lógica dos agentes e na experiência do usuário ao invés da complexidade do backend.

ToolFuzz fornece uma estrutura abrangente de testes de fuzz especificamente adaptada para agentes de IA que usam ferramentas. Gera sistematicamente sequências de invocação de ferramentas aleatórias, APIs malformadas e combinações inesperadas de parâmetros para testar a resistência dos módulos de chamada de ferramentas do agente. Os usuários podem definir estratégias de fuzz personalizadas usando uma interface modular de plugins, integrar ferramentas ou APIs de terceiros e ajustar regras de mutação para focar em modos de falha específicos. A estrutura coleta traços de execução, mede a cobertura de código de cada componente e destaca exceções não tratadas ou falhas lógicas. Com agregação de resultados e relatórios integrados, o ToolFuzz acelera a identificação de casos extremos, problemas de regressão e vulnerabilidades de segurança, fortalecendo a robustez e confiabilidade dos fluxos de trabalho impulsionados por IA.

O repositório Agent Supervisor Demonstrates mostra como orquestrar vários agentes de IA autônomos em um fluxo de trabalho coordenado. Escrito em Python, define uma classe Supervisor para distribuir tarefas, monitorar o status dos agentes, lidar com falhas e agregar respostas. Você pode estender as classes base de agentes, conectar diferentes APIs de modelos e configurar políticas de agendamento. Ele registra atividades para auditoria, suporta execução paralela e oferece um design modular para fácil personalização e integração em sistemas maiores de IA.

AgentMesh fornece uma infraestrutura modular para desenvolvedores criarem redes de agentes de IA, cada um focado em uma tarefa ou domínio específico. Os agentes podem ser descobertos e registrados dinamicamente em tempo de execução, trocar mensagens assíncronas e seguir regras de roteamento configuráveis. A estrutura lida com tentativas de reconexão, fallback e recuperação de erros, permitindo pipelines multi-agente para processamento de dados, suporte à decisão ou casos de uso conversacionais. Integra facilmente com modelos LLM existentes e modelos personalizados via uma interface de plugins simples.