AgentGateway fornece um ambiente focado no desenvolvedor para criar aplicações de IA multiagente. Ele suporta orquestração distribuída de agentes, integração de plugins e controle de acesso seguro. Com conectores integrados para bancos de dados vetoriais, APIs REST/gRPC e serviços comuns como Slack e Notion, os agentes podem consultar documentos, executar lógica de negócios e gerar respostas de forma autônoma. A plataforma inclui monitoramento, registro e controles de acesso baseados em funções, facilitando a implantação de soluções de IA escaláveis e auditáveis em toda a empresa.

Functionary fornece uma maneira declarativa de registrar ferramentas personalizadas — funções JavaScript que encapsulam chamadas de API, consultas a bancos de dados ou lógica de negócios. Ela encapsula uma interação com um modelo de linguagem grande (LLM) para analisar os prompts do usuário, determinar quais ferramentas executar e fazer o parse das saídas das ferramentas de volta para respostas conversacionais. O framework suporta memória, manipulação de erros e encadeamento de ações, oferecendo hooks para pré e pós-processamento. Desenvolvedores podem criar rapidamente agentes capazes de orquestração dinâmica de funções sem boilerplate, aprimorando o controle sobre fluxos de trabalho movidos a IA.

O LLM Functions fornece uma estrutura simples para conectar respostas de grandes modelos de linguagem à execução real de código. Você define funções via esquemas JSON, registra-as na biblioteca, e o LLM retornará chamadas de funções estruturadas quando apropriado. A biblioteca analisa essas respostas, valida os parâmetros e invoca o manipulador correto. Ela suporta callbacks síncronos e assíncronos, tratamento de erros personalizado e extensões de plugins, sendo ideal para aplicações que requerem pesquisa dinâmica de dados, chamadas externas de API ou lógica de negócios complexa em conversas conduzidas por IA.