Lakera сосредоточена на предоставлении решений безопасности уровня предприятия для крупных языковых моделей (LLM). Их основной продукт, Lakera Guard, позволяет организациям разрабатывать и эксплуатировать приложения генеративного ИИ, не беспокоясь о вводах команд, потере данных или раскрытии вредоносного контента. Предоставляя такие инструменты, как мониторинг в реальном времени, обнаружение угроз и автоматизированные проверки соблюдения норм, Lakera обеспечивает надежность, безопасность и доверие к моделям ИИ.

Prompto — это веб-приложение с открытым исходным кодом, которое призвано упростить и улучшить способ взаимодействия пользователей с крупными языковыми моделями (LLM). Легкость переключения между различными LLM обеспечивает пользователям наличие необходимых инструментов для решения различных задач обработки языка. Prompto стремится предоставить бесперебойный, безопасный и удобный для пользователя опыт, позволяя пользователям использовать мощь LLM без сопутствующей сложности. Его дизайн сосредоточен на сохранении пользовательских предпочтений и истории разговоров локально, избегая необходимости в серверном хранилище и повышая конфиденциальность и безопасность пользователей.

AquilaX - это платформа безопасности, управляемая ИИ, предлагающая автоматизированное сканирование кода для обнаружения и исправления уязвимостей. Она включает в себя пакет из 10 сканеров, охватывающих различные аспекты безопасности, такие как соблюдение норм, ПД, жестко закодированные секреты, SAST, открытый исходный код, контейнеры, IaC, API, вредоносные программы и код, сгенерированный ИИ. Платформа обеспечивает бесшовную интеграцию в среды разработки и предоставляет точные, быстрые и оперативные данные по безопасности, что делает её подходящей для современных команд DevOps, стремящихся улучшить безопасность и соблюдение норм в своих программных продуктах.

Форум моделей фронтира — это совместный отраслевой орган, сформированный ведущими технологическими компаниями, такими как Microsoft, Anthropic, Google и OpenAI. Форум стремится продвигать исследования безопасности ИИ, способствовать ответственному развитию моделей фронтира и минимизировать потенциальные риски, связанные с технологиями ИИ. Оперируя на опыте своих членов, Форум ставит целью содействие общественному благу, делясь лучшими практиками и разрабатывая общественную библиотеку ресурсов по безопасности ИИ.