Joylive Agent offre une architecture modulaire basée sur des plugins, conçue pour créer des agents IA sophistiqués. Il fournit une intégration transparente avec des LLM tels que OpenAI GPT, des backends de mémoire configurables pour la persistance des sessions, et un gestionnaire de kits d'outils pour exposer des API externes ou des fonctions personnalisées comme capacités d'agent. Le cadre inclut également une orchestration de chaîne de réflexion intégrée, une gestion de dialogue multi-tours et un serveur RESTful pour un déploiement facile. Son noyau Java garantit une stabilité de niveau entreprise, permettant aux équipes de prototyper rapidement, d'étendre et de faire évoluer des assistants intelligents pour divers cas d'utilisation.

L'exemple Azure AI Travel Agents est une implémentation de référence de bout en bout d'un agent conversationnel aidant les utilisateurs à planifier leurs voyages en générant des itinéraires personnalisés, en recherchant des options de vols et d'hôtels, et en répondant aux questions liées au voyage. Basé sur le framework Azure AI Agent, il intègre les modèles GPT d'OpenAI pour la compréhension et la génération de langage naturel, utilise Azure Functions pour héberger des compétences telles que la recherche météo, et se connecte à des API externes pour des informations de réservation en temps réel. Les développeurs peuvent exécuter l'exemple localement ou le déployer sur Azure, étendre les compétences existantes ou en ajouter de nouvelles pour la conversion de devises, les recommandations d’attractions locales ou les alertes de voyage. Cet exemple montre comment orchestrer plusieurs compétences alimentées par IA et gérer le contexte entre les tours de conversation, permettant une solution d'assistant de voyage robuste et scalable.

Layra est conçue pour simplifier le développement d'agents alimentés par LLM en fournissant une architecture modulaire qui s'intègre avec divers outils et stockages de mémoire. Elle comprend un planificateur qui divise les tâches en sous-objectifs, un module de mémoire pour stocker la conversation et le contexte, et un système de plugins pour connecter des APIs externes ou des fonctions personnalisées. Layra supporte aussi l'orchestration de plusieurs instances d'agents pour collaborer sur des workflows complexes, en permettant une exécution en parallèle et la délégation de tâches. Avec des abstractions claires pour les outils, la mémoire et la définition de politiques, les développeurs peuvent rapidement prototyper et déployer des agents intelligents pour le support client, l'analyse de données, RAG, et plus encore. Elle est indépendante du backend de modélisation, supportant OpenAI, Hugging Face et des LLM locaux.