Глава DeepMind устанавливает таймер AGI на «5–10 лет», предупреждая о рисках безопасности

На этой неделе в Нью-Дели на саммите India AI Impact Summit генеральный директор Google DeepMind Демис Хассабис (Demis Hassabis) выступил с определяющей программной речью, в которой технологический оптимизм сочетался с настоятельной геополитической осторожностью. Выступая перед мировым собранием политиков, лидеров индустрии и исследователей, Хассабис представил один из своих самых конкретных прогнозов относительно появления общего искусственного интеллекта (Artificial General Intelligence, AGI), предсказав его возникновение в течение следующих «5–10 лет». Однако этот прогноз сопровождался суровым предупреждением: окно для создания надежных международных рамок безопасности закрывается, поскольку системы ИИ переходят от пассивных инструментов к автономным агентам.

Саммит, проходящий в период стремительного ускорения возможностей генеративного ИИ (Generative AI), послужил для Хассабиса фоном для описания «порогового момента», с которым сейчас сталкивается индустрия. Приветствуя потенциал новой «золотой эры научных открытий», он подчеркнул, что природа передового ИИ как технологии двойного назначения (dual-use), способной принести как огромную пользу, так и значительный вред, требует уровня глобального сотрудничества, который в настоящее время отстает от технологического прогресса.

Горизонт AGI: выход за пределы «зубчатого интеллекта»

Выступление Хассабиса дало редкую и откровенную оценку ограничений современных моделей. Несмотря на шумиху вокруг недавних прорывов в области генеративного ИИ, он охарактеризовал сегодняшние системы как «зубчатый интеллект» (jagged intelligences). Этот термин описывает модели, которые демонстрируют сверхчеловеческий блеск в конкретных областях — таких как кодинг или творческое письмо — и в то же время терпят неудачу в элементарных задачах на рассуждение, с которыми легко справился бы человеческий ребенок.

«Мы начинаем видеть, на что способны эти системы, но они остаются хрупкими», — отметил Хассабис во время своей сессии. Он указал, что, хотя модель может выиграть золотую медаль на Международной математической олимпиаде, она может споткнуться на простой арифметике, если вопрос сформулирован нестандартно. Эта непоследовательность, по его мнению, является основным барьером, отделяющим нынешний узкоспециализированный ИИ от истинного AGI.

Чтобы проиллюстрировать скачок, необходимый для достижения AGI, Хассабис предложил амбициозный мысленный эксперимент, связанный с научными инновациями. Он предположил, что настоящий AGI должен быть способен пройти обучение на данных до 1911 года и самостоятельно вывести общую теорию относительности, повторив прорыв Альберта Эйнштейна 1915 года. «Сформулировать правильный вопрос и правильную гипотезу гораздо сложнее, чем решить теорему», — пояснил он. Современным системам, которые преуспели в интерполяции существующих данных, все еще не хватает «моделей мира» и возможностей долгосрочного планирования, необходимых для таких оригинальных концептуальных скачков.

Тем не менее, соучредитель DeepMind по-прежнему уверен, что эти пробелы быстро восполняются. Он назвал появление «агентных» (agentic) систем — ИИ, который может предпринимать автономные действия для достижения целей высокого уровня — следующим важным этапом. Ожидается, что этот переход от взаимодействий в стиле чат-ботов к рабочим процессам на основе агентов ускорится в течение следующего года, приближая индустрию к цели AGI через 5–10 лет.

Дилемма двойного назначения: биобезопасность и киберриски

По мере сокращения сроков появления AGI растет потенциал для злоупотреблений. Хассабис посвятил значительную часть своего выступления природе «двойного назначения» передовых систем ИИ. Те же возможности, которые позволяют ИИ ускорять разработку лекарств или оптимизировать энергосети, могут быть использованы «злоумышленниками» — от отдельных лиц до враждебных государств — для нанесения вреда.

Он выделил две конкретные области, вызывающие немедленную озабоченность: биобезопасность и киберриски.

В сфере биобезопасности опасение вызывает то, что ИИ может снизить порог входа для создания опасных биологических агентов. Хотя инструменты ИИ, такие как AlphaFold, произвели революцию в биологии, предсказывая структуру белков, подобные технологии теоретически могут быть использованы для разработки токсинов или патогенов, если не будут установлены надлежащие ограждения.

Кибербезопасность представляет собой еще более непосредственную угрозу. «Текущие системы становятся довольно хороши в киберсфере», — предупредил Хассабис, подчеркнув, что индустрия должна гарантировать, что «защита будет сильнее нападения». По мере того как агенты ИИ становятся способными писать и исполнять сложный код, риск автоматизированных кибератак, масштабируемых за пределы возможностей человеческих групп защиты, становится ощутимой реальностью. Это требует проактивного подхода, при котором ИИ используется для исправления уязвимостей быстрее, чем он может быть использован для их эксплуатации.

Сравнительный анализ: текущий ИИ против прогнозируемого AGI

В следующей таблице изложены критические различия, проведенные Хассабисом между моделями ИИ, развернутыми сегодня, и системами AGI, ожидаемыми в течение следующего десятилетия.

Призыв к глобальному сотрудничеству

Трансграничный характер цифрового интеллекта делает его уникальным вызовом для регулирования. Хассабис утверждал, что ни одна страна не может эффективно сдерживать риски ИИ в одиночку, поскольку данные и модели мгновенно перемещаются между юрисдикциями. Он призвал к созданию международной структуры, аналогичной тем, что были созданы для атомной энергетики или изменения климата, хотя и признал сложность достижения этого в нынешнем фрагментированном геополитическом климате.

«Это становится невероятно важным местом встречи для международного диалога», — сказал Хассабис о саммите, похвалив роль Индии в содействии этим критически важным дискуссиям. Он четко обозначил Индию как будущий «центр силы ИИ», сославшись на глубокий инженерный талант страны и быстрое внедрение цифровой инфраструктуры.

Однако путь к глобальному сотрудничеству сопряжен с напряженностью. Разные страны в настоящее время отдают приоритет различным аспектам политики в области ИИ: одни фокусируются на доминировании в инновациях, другие — на строгом соблюдении требований безопасности. Посыл Хассабиса был ясен: без минимального набора глобальных стандартов, особенно в отношении развертывания автономных агентов и мер безопасности в области биотехнологий, мир рискует начать «гонку на выживание» в вопросах безопасности.

Эра научных открытий

Несмотря на пристальное внимание к рискам, суть сообщения Хассабиса осталась укорененной в преобразующем потенциале ИИ для науки. Он описал грядущее десятилетие как «новый Ренессанс», где инструменты ИИ раскроют тайны физики, биологии и материаловедения, которые десятилетиями ставили исследователей в тупик.

Этот оптимизм подкрепляется собственным послужным списком DeepMind. От победы в игре Го до решения проблемы сворачивания белка, компания последовательно демонстрировала, что ИИ может решать сложные, неопределенные задачи. Переход к AGI, по мнению Хассабиса, — это не просто создание более умных чат-ботов, а создание идеального инструмента для расширения знаний. «Я всегда верил, что ИИ станет одной из самых важных и полезных технологий, когда-либо изобретенных», — размышлял он, отмечая, что его карьерное стремление было вызвано желанием ускорить научные открытия.

Анализ Creati.ai: подготовка к переходу на агентные системы

С точки зрения Creati.ai, комментарии Хассабиса на India AI Impact Summit сигнализируют о критическом сдвиге в риторике индустрии. Мы уходим от первоначального трепета перед генерацией текста и изображений к серьезной и сложной работе по созданию надежных автономных агентов.

Для предприятий и разработчиков «зубчатая» природа современных моделей является известным камнем преткновения. Обещание AGI подразумевает будущее, в котором надежность ИИ больше не будет игрой в кости, а станет гарантией. Однако сроки от 5 до 10 лет предполагают, что предприятия должны оставаться гибкими — инвестировать в текущие инструменты, подготавливая свою инфраструктуру к радикальному скачку возможностей.

Акцент на безопасности также указывает на то, что следующая волна продуктов ИИ, вероятно, столкнется с более пристальным вниманием в отношении их потенциала «двойного назначения». Мы ожидаем всплеска спроса на платформы безопасности ИИ — инструменты, специально разработанные для мониторинга, аудита и сетевой защиты (firewall) агентных систем ИИ. По мере того как индустрия осмысливает предупреждение Хассабиса, фокус, вероятно, сместится на разработку ИИ по принципу «безопасность прежде всего», гарантируя, что системы, которые мы строим сегодня, не станут уязвимостями завтрашнего дня.