ИИ контролирует ИИ: OpenAI развертывает кастомный ChatGPT для выслеживания внутренних осведомителей

В рекурсивном повороте сюжета, который кажется вырванным со страниц киберпанк-романа, компания OpenAI, по сообщениям, направила собственное творение против своих сотрудников. Гигант в сфере искусственного интеллекта теперь использует специализированную, кастомную версию ChatGPT для расследования и выявления сотрудников, ответственных за утечку конфиденциальной внутренней информации в прессу. Это событие знаменует собой значительную эскалацию в войне Кремниевой долины (Silicon Valley) против секретности, фундаментально меняя динамику между создателями ИИ и системами, которые они строят.

Для компании, чья миссия состоит в том, чтобы «гарантировать, что сильный искусственный интеллект (Artificial General Intelligence, AGI) принесет пользу всему человечеству», внутренняя атмосфера кажется все более сосредоточенной на обеспечении того, чтобы информация об этом интеллекте оставалась строго ограниченной. Как сообщает The Information, этот новый инструмент позволяет сотрудникам службы безопасности вводить внешние новостные статьи — например, те, в которых подробно описываются невыпущенные модели или внутренние конфликты — в систему, которая затем сопоставляет общедоступный текст с обширными архивами внутренних коммуникаций.

«Ловушка утечек»: Как работает инструмент

Механизм, стоящий за этим цифровым детективом, столь же эффективен, сколь и антиутопичен. Согласно источникам, знакомым с процессом, когда утечка появляется в таких СМИ, как The New York Times или The Information, команда безопасности OpenAI вводит статью в этот специально созданный экземпляр ChatGPT.

В отличие от потребительской версии ChatGPT, которая отделена от частных данных, этот внутренний вариант имеет привилегированный доступ к глубочайшим логам коммуникаций компании. Он может сканировать:

• Сообщения в Slack: Годы неформальных бесед, обновлений проектов и прямых сообщений.
• Архивы электронной почты: Официальную переписку и внешние сообщения.
• Логи доступа к документам: Записи о том, кто открывал конкретные технические брифинги или стратегические документы.

ИИ анализирует просочившуюся статью на предмет специфических формулировок, уникальных точек данных или малоизвестных кодовых названий проектов, которые могли быть известны лишь немногим. Затем он сопоставляет этот «отпечаток» с внутренними записями, чтобы пометить сотрудников, которые имели доступ к этой конкретной информации или использовали похожий язык в частных чатах.

Этот автоматизированный криминалистический анализ резко сокращает время, необходимое для отслеживания утечки. То, что раньше требовало недель ручного просмотра логов человеческими следователями, теперь может быть сужено до короткого списка подозреваемых за считанные минуты. Это превращает расплывчатое подозрение «кто-то проговорился» в вероятностный рейтинг «кто, скорее всего, проговорился».

Наследие утечек и паранойя

Развертывание этого инструмента — не изолированная мера, а реакция на бурный период в истории OpenAI. Компания была осаждена резонансными утечками, которые не только поставили руководство в неловкое положение, но и, возможно, изменили траекторию развития всей индустрии.

Самой известной из них стало раскрытие Q* (произносится Q-Star) — таинственной модели, способной решать новые математические задачи, информация о которой просочилась всего за несколько дней до шокирующего увольнения генерального директора Сэма Альтмана (Sam Altman) — и его последующего восстановления — в ноябре 2023 года. Совсем недавно в прессу просочились подробности о «Project Strawberry» (позже выпущенном как модель o1), что подорвало тщательно спланированные графики запусков компании.

Эти инциденты ужесточили внутреннюю культуру OpenAI. Открытый академический дух, определявший ее ранние некоммерческие дни, во многом испарился, сменившись жесткими информационными барьерами, типичными для оборонного подрядчика.

Таблица 1: Хронология основных утечек в OpenAI и мер безопасности

Эффект паноптикума: Слежка через синтаксис

Психологическое воздействие этого инструмента на сотрудников OpenAI невозможно переоценить. Сотрудники теперь работают в среде, где их синтаксис, выбор слов и случайный цифровой след могут быть в любой момент использованы против них теми самыми инструментами, которые они помогают создавать.

Это создает эффект «паноптикума» — ощущение постоянного наблюдения, даже если наблюдателем является алгоритм. Это поднимает глубокие вопросы о природе работы в эпоху ИИ. Если ИИ может анализировать семантический дрейф, чтобы определить, кто разговаривал с репортером, может ли он также предсказать, кто мог бы допустить утечку, основываясь на анализе настроений в их сообщениях в Slack?

Ирония очевидна: компания фактически обучает свои модели на открытом интернете (часто собирая данные без явного согласия), но применяет драконовскую слежку на базе ИИ, чтобы предотвратить возвращение собственных данных в ту же публичную сферу.

Дело Ашенбреннера и права осведомителей

Агрессивная охота на осведомителей также пересекается со сложными юридическими и этическими вопросами, касающимися защиты информаторов. В апреле 2024 года исследователи Леопольд Ашенбреннер (Leopold Aschenbrenner) и Павел Измайлов (Pavel Izmailov) были уволены за предполагаемую утечку. Ашенбреннер, член команды «Superalignment», позже публично заявил, что его увольнение было политически мотивированным, и подал жалобу в Комиссию по ценным бумагам и биржам США (SEC).

В его жалобе утверждалось, что соглашения о неразглашении (NDAs) OpenAI были незаконно ограничительными, что потенциально мешало сотрудникам сообщать о проблемах безопасности регуляторам. Если инструмент «Leak Catcher» используется для выявления сотрудников, которые общаются с федеральными регуляторами или разоблачают нарушения безопасности, а не просто продают коммерческие тайны, OpenAI может столкнуться со значительными юридическими трудностями.

Широкие отраслевые тенденции: Менталитет крепости

OpenAI не одинока в этом менталитете крепости, хотя она, пожалуй, наиболее агрессивна в его автоматизации. По мере эскалации «гонки вооружений ИИ», когда на кону стоят триллионы долларов рыночной стоимости, ведущие лаборатории, такие как Google DeepMind и Anthropic, также ужесточают свои периметры безопасности.

Однако использование большой языковой модели (Large Language Model, LLM) для контроля над сотрудниками вводит новую переменную. Традиционное программное обеспечение для предотвращения утечек данных (Data Loss Prevention, DLP) ищет конкретные передачи файлов или ключевые слова. Инструмент безопасности на базе LLM понимает контекст. Он может обнаружить утечку, даже если сотрудник перефразировал информацию, чтобы избежать фильтров по ключевым словам. Это представляет собой квантовый скачок в возможностях корпоративной контрразведки.

Последствия для будущего сферы труда

Созданный здесь прецедент тревожен для всего технологического сектора. По мере того как инструменты ИИ становятся все более интегрированными в корпоративное программное обеспечение, возможность проведения глубокой семантической слежки за сотрудниками станет общедоступной.

• Семантический анализ: Работодатели смогут отслеживать «соответствие» ценностям компании, анализируя тон писем.
• Обнаружение правонарушений на ранней стадии: ИИ может помечать сотрудников, проявляющих признаки выгорания или несогласия, еще до того, как они уволятся или выскажут свое мнение.
• Автоматизированные расследования: HR-расследования могут проводиться преимущественно агентами ИИ, проверяющими логи коммуникаций.

Заключение: Замалчивание в лабораториях

Использование OpenAI кастомного ChatGPT для поимки осведомителей — это технологическое чудо и культурный предупредительный выстрел. Это демонстрирует мощь технологии в анализе огромных объемов неструктурированных данных для поиска «иголки в стоге сена». Тем не менее, это также сигнализирует об окончании эры открытости в исследованиях ИИ.

По мере того как эти компании мчатся к AGI, стены смыкаются. Исследователи, создающие будущее, делают это под бдительным оком того самого интеллекта, который они создают. Для Creati.ai это событие подчеркивает критическое напряжение: по мере того как системы ИИ становятся все более функциональными, они неизбежно будут использоваться для укрепления властных структур организаций, которые ими управляют, превращая «черный ящик» ИИ в инструмент для сохранения самой организации в качестве черного ящика.

Послание сотрудникам OpenAI ясно: ИИ слушает, и он знает ваш стиль письма лучше, чем вы сами.