Huly Labs est une plateforme cloud-native d'agents IA qui permet aux développeurs et aux équipes produit de concevoir, déployer et surveiller des assistants intelligents. Les agents peuvent conserver leur contexte via une mémoire persistante, appeler des API ou bases de données externes, et exécuter des flux de travail multi-étapes grâce à un constructeur visuel. La plateforme comprend des contrôles d'accès basés sur les rôles, un SDK Node.js et une CLI pour le développement local, des composants UI personnalisables pour le chat et la voix, ainsi que des analyses en temps réel pour la performance et l'utilisation. Huly Labs gère le dimensionnement, la sécurité et la journalisation par défaut, permettant une itération rapide et des déploiements à l'échelle de l'entreprise.

autogen-agent-server agit comme une plateforme d'orchestration centralisée pour les agents IA, permettant aux développeurs d'exposer les capacités des agents via des endpoints RESTful standard. Les fonctionnalités principales incluent l'enregistrement de nouveaux agents avec des prompts et une logique personnalisée, la gestion de plusieurs sessions avec suivi de contexte, la récupération de l'historique des conversations, et la coordination de dialogues multi-agents. Il présente un traitement asynchrone des messages, des callbacks webhook, et une persistance intégrée pour l'état et les logs des agents. La plateforme s'intègre parfaitement à la bibliothèque AutoGen pour exploiter les modèles LLM, offre la possibilité de middleware personnalisé pour l'authentification, supporte la montée en charge via Docker et Kubernetes, et propose des hooks de monitoring pour les métriques. Ce framework accélère la création de chatbots, d'assistants numériques, et de flux automatisés en abstraisant l'infrastructure serveur et les patterns de communication.