Portkey.ai est une plateforme LLMOps robuste et full-stack qui simplifie le développemment, le déploiement et la maintenance des applications IA génératives. Avec Portkey, les entreprises peuvent gérer efficacement le cycle de vie de leurs applications IA, en garantissant fiabilité et performance grâce à un suivi avancé et à la collecte de retours. La plateforme prend en charge divers modèles IA, y compris le chat, le texte, l'audio, la vision et la génération d'images, et offre un moyen sécurisé et auditables de contrôler l'accès aux données et ressources organisationnelles.

Disco simplifie le développement d'agents IA sur AWS en fournissant un cadre d'orchestration piloté par événements, qui relie les responses du modèle de langage aux fonctions sans serveur, aux files de messages et aux API externes. Il propose des connecteurs préfabriqués pour AWS Lambda, Step Functions, SNS, SQS et EventBridge, facilitant la redirection des messages et le déclenchement d'actions basées sur les sorties LLM. La conception modulaire de Disco supporte la définition de tâches personnalisées, la logique de retry, la gestion des erreurs et la surveillance en temps réel via CloudWatch. Il utilise des rôles IAM AWS pour un accès sécurisé et offre une journalisation intégrée et une traçabilité pour assurer l'observabilité. Idéal pour chatbots, workflows automatisés et pipelines d'analyse pilotés par agents, Disco fournit des solutions d'agents IA évolutives et rentables.

AgentGateway fournit un environnement axé sur le développement pour la création d'applications IA multi-agents. Elle supporte l'orchestration distribuée d'agents, l'intégration de plugins et le contrôle d'accès sécurisé. Avec des connecteurs intégrés pour les bases de données vectorielles, les API REST/gRPC et des services courants comme Slack et Notion, les agents peuvent interroger des documents, exécuter une logique métier et générer des réponses de manière autonome. La plateforme inclut la surveillance, la journalisation et le contrôle d'accès basé sur les rôles, facilitant le déploiement de solutions IA évolutives et auditable dans les entreprises.