AgentGateway fournit un environnement axé sur le développement pour la création d'applications IA multi-agents. Elle supporte l'orchestration distribuée d'agents, l'intégration de plugins et le contrôle d'accès sécurisé. Avec des connecteurs intégrés pour les bases de données vectorielles, les API REST/gRPC et des services courants comme Slack et Notion, les agents peuvent interroger des documents, exécuter une logique métier et générer des réponses de manière autonome. La plateforme inclut la surveillance, la journalisation et le contrôle d'accès basé sur les rôles, facilitant le déploiement de solutions IA évolutives et auditable dans les entreprises.

Functionary fournit une méthode déclarative pour enregistrer des outils personnalisés — des fonctions JavaScript encapsulant des appels API, des requêtes de bases de données ou de la logique métier. Il encapsule une interaction avec un modèle de langage large (LLM) pour analyser les prompts utilisateur, déterminer quels outils exécuter, et analyser les sorties des outils pour produire des réponses conversationnelles. Le framework supporte la mémoire, la gestion des erreurs, et la jonction d’actions, offrant des hooks pour le pré- et post-traitement. Les développeurs peuvent rapidement déployer des agents capables d’orchestration dynamique de fonctions sans boilerplate, améliorant ainsi le contrôle sur les workflows pilotés par l’IA.

LLM Functions offre un cadre simple pour relier les réponses du grand modèle linguistique à l’exécution réelle du code. Vous définissez des fonctions via des schémas JSON, les enregistrez dans la bibliothèque, et le LLM retournera des appels de fonction structurés lorsque cela est approprié. La bibliothèque parses ces réponses, valide les paramètres, et invoque le gestionnaire correct. Elle supporte les rappels synchrones et asynchrones, la gestion d’erreur personnalisée, et les extensions de plugins, ce qui la rend idéale pour les applications nécessitant une recherche dynamique de données, des appels API externes, ou une logique commerciale complexe au sein de conversations pilotées par IA.