Lakera se concentre sur la fourniture de solutions de sécurité de niveau entreprise pour les grands modèles linguistiques (LLMs). Son produit principal, Lakera Guard, permet aux organisations de développer et d'exploiter des applications d'IA génératives sans se soucier des injections de commandes, de la perte de données ou de l'exposition à des contenus nuisibles. En fournissant des outils tels que le suivi en temps réel, la détection des menaces et les vérifications automatisées de conformité, Lakera garantit que les modèles d'IA sont fiables, sécurisés et dignes de confiance.

Prompto est une application web open-source destinée à simplifier et améliorer la manière dont les utilisateurs interagissent avec de grands modèles linguistiques (LLM). Le passage sans effort entre différents LLM garantit que les utilisateurs disposent des outils nécessaires pour diverses tâches de traitement linguistique. Prompto vise à fournir une expérience fluide, sécurisée et conviviale, permettant aux utilisateurs de tirer parti de la puissance des LLM sans la complexité qui y est associée. Son design se concentre sur la conservation des préférences des utilisateurs et de l'historique des conversations localement, évitant le besoin de stockage sur serveur et améliorant la vie privée et la sécurité des utilisateurs.

AquilaX est une plateforme de sécurité alimentée par l'IA offrant un scan de code automatisé pour détecter et corriger les vulnérabilités. Elle comprend une suite de 10 analyseurs couvrant différents aspects de la sécurité tels que la conformité, les informations personnelles, les secrets codés, SAST, le code source ouvert, les conteneurs, IaC, API, logiciels malveillants et code généré par l'IA. La plateforme garantit une intégration fluide dans les environnements de développement et fournit des informations de sécurité précises, rapides et exploitables, ce qui la rend adaptée aux équipes DevOps modernes cherchant à améliorer la sécurité de leurs logiciels et leur conformité.

Le Forum des Modèles de Frontière est un organisme collaboratif de l'industrie formé par des entreprises technologiques leaders, telles que Microsoft, Anthropic, Google et OpenAI. Le Forum s'engage à faire progresser la recherche sur la sécurité de l'IA, à promouvoir le développement responsable des modèles de pointe et à minimiser les risques potentiels associés aux technologies de l'IA. En s'appuyant sur l'expertise de ses membres, le Forum vise à contribuer au bien public en partageant les meilleures pratiques et en développant une bibliothèque publique de ressources sur la sécurité de l'IA.