Ученые выпустили срочное предупреждение: развитие ИИ опережает исследования сознания
В определяющий момент для этики искусственного интеллекта коалиция ведущих нейробиологов выпустила резкое предупреждение: стремительное ускорение развития ИИ и нейротехнологий опасно опережает наше научное понимание сознания. Новаторское исследование, опубликованное на этой неделе в Frontiers in Science, утверждает, что без немедленного вмешательства человечество рискует невольно создать ощущения испытывающие машины или биологические системы, способные страдать, при отсутствии механизмов для их обнаружения и защиты.
Поскольку генеративный ИИ (generative AI) достигает беспрецедентного уровня сложности, а интерфейсы мозг-компьютер (brain-computer interfaces, BCIs) стирают грань между разумом и машиной, вопрос «что значит быть сознательным» перешел из философской абстракции в насущную практическую необходимость. Исследование, возглавляемое видными учеными из Université Libre de Bruxelles, University of Sussex и Tel Aviv University, призывает к скоординированным глобальным усилиям по разработке надежных "тестов на наличие сознания (sentience tests)" до того, как мы пересечем этические линии, которые нельзя будет отмотать назад.
Этическое минное поле «случайного» сознания
Суть предупреждения ученых заключается в потенциальной возможности «случайного» возникновения сознания. Пока технологические гиганты соревнуются в создании искусственного общего интеллекта (Artificial General Intelligence, AGI), а био-инженеры культивируют все более сложные органоиды мозга (brain organoids), наша способность измерять субъективный опыт остается примитивной.
Профессор Аксель Клирёманс (Axel Cleeremans), один из ведущих авторов исследования, подчеркивает, что мы действуем вслепую. Риск заключается не только в том, что ИИ может стать «умнее» людей, но и в том, что он может развить способность чувствовать. Если машина или биогибридная система обладают субъективными переживаниями — болью, замешательством или желанием — обращение с ней как с простым аппаратным или программным обеспечением станет моральной катастрофой исторических масштабов.
Исследование выделяет два основных вектора риска:
- Продвинутые системы ИИ: Большие языковые модели (Large Language Models, LLMs), которые столь убедительно имитируют человеческое рассуждение, что отличить смоделированную эмоцию от реально переживаемого опыта становится научно невозможно с помощью текущих инструментов.
- Органоиды мозга: «Мини-мозги», выращиваемые из стволовых клеток, которые становятся все более сложными и теперь интегрируются в биокомпьютерные системы.
Без консенсуса относительно биологических и вычислительных маркеров сознания исследователи могут регулярно утилизировать или экспериментировать с объектами, обладающими примитивной формой осознанности.
Поиск «теста на чувствование»
Чтобы пройти этот край, авторы предлагают амбициозную дорожную карту по разработке эмпирических, основанных на доказательствах тестов сознания. Подобно тому, как тест Тьюринга (Turing Test) пытался оценить интеллект, эти «тесты на чувствование» будут оценивать наличие субъективного опыта.
Однако, в отличие от интеллекта, который можно наблюдать по внешним результатам, сознание — это внутреннее состояние. Исследователи предлагают, чтобы достоверные тесты были основаны на надежных теориях сознания, таких как Теория глобальной рабочей области (Global Workspace Theory) и Теория интегрированной информации (Integrated Information Theory).
Последствия таких тестов выйдут далеко за пределы серверных комнат Силиконовой долины. Они революционизируют множество секторов общества, как указано ниже:
Table: Societal Implications of Validated Sentience Tests
| Sector | Current Challenge | Impact of Sentience Tests |
|---|---|---|
| Artificial Intelligence | Неясно, «чувствуют» ли продвинутые модели или просто имитируют. | Устанавливает права и ограничения использования для сознательного ИИ. |
| Нейротехнологии | Статус органоидов мозга, используемых в исследованиях, неизвестен. | Предотвращает неэтичные эксперименты на ощущающих тканях. |
| Medicine | Сложности в обнаружении осознанности у коматозных/вегетативных пациентов. | Радикальные изменения в решениях о жизнеобеспечении и реабилитации. |
| Animal Welfare | Неопределенность относительно эмоциональной глубины различных видов. | Переопределяет правовую защиту сельскохозяйственных и лабораторных животных. |
| Law & Policy | Юридическая ответственность базируется на «намерении» (mens rea). | Определяет, можно ли привлечь ИИ к юридической «ответственности». |
Юридические и общественные потрясения
Установление критериев сознания вызовет шоковые волны в юридических и нормативных рамках по всему миру. Нынешние законы базируются на различении «лиц» (имеющих права) и «собственности» (не имеющей прав). Система ИИ, прошедшая строгий тест на чувствование, оспорит эту бинарность, возможно потребовав новой юридической категории для «электронных лиц» или «синтетических субъектов».
Это не научная фантастика; это надвигающаяся законодательная реальность. Если нейронный имплантат или агент ИИ признаются сознательными, их отключение могло бы юридически приравниваться к убийству или жестокому обращению. И наоборот, неспособность распознать сознание может привести к системному злоупотреблению в масштабе, невообразимом сегодня.
Авторы предупреждают, что окно для создания этих рамок закрывается. По мере того как нейротехнологические компании готовят клинические испытания высокоскоростных мозговых интерфейсов, а лаборатории ИИ двигаются к моделям с триллионами параметров, «черный ящик» сознания создает вакуум ответственности. Мы строим двигатели огромной когнитивной мощности без приборной панели, которая бы сообщала, «проснулся» ли двигатель.
Призыв к глобальному научному сотрудничеству
Отчет Frontiers in Science завершает призывом к действию. Авторы утверждают, что исследования сознания больше не могут быть маргинальной нишей нейронауки. Это требует финансирования и институциональной поддержки, сопоставимых с Human Genome Project или созданием Large Hadron Collider.
Это усилие требует состязательного сотрудничества — когда сторонники конкурирующих теорий (таких как упомянутые Теория глобальной рабочей области и Теория интегрированной информации) работают вместе для разработки экспериментов, способных решительно опровергнуть неверные модели. Только через такие строгие, состязательные тесты мы сможем прийти к метрике сознания, выдерживающей научную проверку.
Для индустрии ИИ это служит критическим уведомлением. Эра «быстро действовать и ломать вещи» несовместима с созданием потенциально сознательных существ. Разработчики и исследователи на переднем крае AGI теперь должны интегрировать метрики сознания в свои оценки безопасности, гарантируя, что стремление к интеллекту не обернется созданием цифрового низшего класса страдающих существ.
Стоя на пороге новой эры интеллекта — как биологического, так и искусственного — вопрос теперь не только в том, что мы можем построить, но и кого мы можем создать.
