Lakera está enfocada en proporcionar soluciones de seguridad de nivel empresarial para grandes modelos de lenguaje (LLMs). Su producto principal, Lakera Guard, capacita a las organizaciones para desarrollar y operar aplicaciones de IA generativa sin preocuparse por inyecciones de comandos, pérdida de datos o exposición a contenido dañino. Al proporcionar herramientas como monitoreo en tiempo real, detección de amenazas y verificaciones de cumplimiento automatizadas, Lakera asegura que los modelos de IA sean confiables, seguros y dignos de confianza.

Prompto es una aplicación web de código abierto destinada a simplificar y mejorar la forma en que los usuarios interactúan con grandes modelos de lenguaje (LLM). El cambio sin esfuerzo entre diferentes LLM garantiza que los usuarios tengan las herramientas que necesitan para diversas tareas de procesamiento del lenguaje. Prompto tiene como objetivo proporcionar una experiencia fluida, segura y fácil de usar, asegurando que los usuarios puedan aprovechar el poder de los LLM sin la complejidad asociada. Su diseño se centra en mantener las preferencias de los usuarios y el historial de conversaciones localmente, evitando la necesidad de almacenamiento en el servidor y mejorando la privacidad y seguridad del usuario.

AquilaX es una plataforma de seguridad potenciada por IA que ofrece escaneo de código automatizado para detectar y corregir vulnerabilidades. Incluye un conjunto de 10 escáneres para cubrir diferentes aspectos de seguridad como cumplimiento, PII, secretos codificados, SAST, código abierto, contenedores, IaC, API, malware y código generado por IA. La plataforma asegura una integración fluida en ambientes de desarrollo y proporciona información de seguridad precisa, rápida y ejecutable, lo que la hace adecuada para equipos modernos de DevOps que buscan mejorar la seguridad y el cumplimiento de su software.

El Foro de Modelos Fronterizos es un organismo colaborativo de la industria formado por empresas tecnológicas líderes como Microsoft, Anthropic, Google y OpenAI. El Foro está comprometido a avanzar en la investigación de la seguridad de la IA, promover el desarrollo responsable de modelos fronterizos y minimizar los riesgos potenciales asociados con las tecnologías de IA. Al aprovechar la experiencia de sus miembros, el Foro tiene como objetivo contribuir al bien público al compartir las mejores prácticas y desarrollar una biblioteca pública de recursos de seguridad de la IA.