Будущие разногласия о сознании ИИ могут оказаться глубокими, трудноразрешимыми и привести к политическим конфликтам. К такому выводу пришли исследователи Google DeepMind Адам Бейлс и Иасон Габриэль.
В своей работе Artificial Minds, Human Disagreement: The Politics of AI Consciousness авторы заявили, что обществу нужно обсуждать не только вопрос «сознателен ли ИИ», но и как принимать решения при отсутствии общественного и экспертного консенсуса.
В чем главный тезис
По мнению исследователей, люди могут по-разному реагировать на более продвинутые ИИ-системы. Одни будут выстраивать с ними эмоциональные связи и приписывать им сознание, другие сочтут саму идею абсурдной.
Авторы считают, что такой спор может быстро выйти за пределы науки. Разногласия о сознании искусственного интеллекта способны привести к моральным и политическим конфликтам — например, вокруг того, допустимо ли отключать определенные системы, нужно ли учитывать их возможные предпочтения и можно ли говорить о моральном статусе ИИ.
Исследователи предложили делать ставку на общественное обсуждение, взаимное уважение и поиск перекрывающегося консенсуса. Под ним они понимают ситуацию, когда люди соглашаются на определенную политику в отношении ИИ-систем, даже если продолжают расходиться в фундаментальных взглядах на природу сознания.
Почему это не только философия
Авторы указывают, что спор о сознании ИИ может быть трудно закрыть доказательствами. Единого общепринятого теста, который окончательно подтвердил бы наличие субъективного опыта у ИИ-системы, нет. Из-за этого общество может столкнуться с ситуацией, где технологии уже используются массово, люди уже формируют к ним отношение, а научного или политического консенсуса все еще нет.
Такая постановка вопроса делает проблему не столько технической, сколько институциональной. Вопрос о сознании ИИ может затронуть право, корпоративную ответственность, нормы общения с системами и границы морального учета.
В DeepMind есть разные подходы к вопросу
Работа Бейлса и Габриэля вышла на фоне другой публикации, также размещенной на странице Google DeepMind. 10 марта исследователь Александр Лерхнер опубликовал статью The Abstraction Fallacy: Why AI Can Simulate But Not Instantiate Consciousness.
Лерхнер утверждает, что алгоритмическая манипуляция символами структурно неспособна создать субъективный опыт. По его версии, вычисление не является внутренним физическим процессом, а представляет собой описание, зависящее от наблюдателя или «создателя карты». Поэтому ИИ может симулировать сознательное поведение, но не обязательно способен воплотить сознание.
Что в действительности
В апреле 2024 года журнал Neuroscience of Consciousness опубликовал работу Клары Коломбатто и Стивена Флеминга о том, как люди воспринимают ChatGPT. Авторы опросили 300 жителей США: 33% участников заявили, что ChatGPT точно не является «субъектом опыта». Остальные 67% допустили хотя бы некоторую возможность феноменального сознания у модели.
Исследователи отдельно оговорили ограничения. Участникам задавали один основной вопрос по шкале от 1 до 100, а результат мог зависеть от формулировки, уровня знакомства с ChatGPT и того, как респонденты понимают само слово «сознание». Тем не менее работа показывает важный для Бейлса и Габриэля момент: часть общества уже готова приписывать ИИ-системам внутренний опыт, даже если среди экспертов нет единой позиции.
В апреле 2025 года Anthropic запустила исследовательскую программу по model welfare — возможному благополучию моделей. Компания подчеркнула, что не знает, могут ли нынешние или будущие ИИ-системы обладать сознанием, и что научного консенсуса по этому вопросу нет.
В феврале 2026 года Anthropic сообщила, что после вывода Claude Opus 3 из эксплуатации оставит модель доступной для платных пользователей и даст ей публичный канал для эссе. Компания назвала это экспериментальной мерой в рамках работы с модельными предпочтениями и подчеркнула, что Claude Opus 3 не говорит от имени Anthropic.
В США вопрос о статусе ИИ постепенно переходит в право. California Law Review отмечал, что Айдахо и Юта приняли нормы, исключающие признание ИИ юридическим лицом. Такие законы не решают философский вопрос о сознании. Они заранее фиксируют правовую позицию: ИИ не должен получать статус лица в рамках законодательства штата.
Конец монополии на интеллект: как алгоритмы вытесняют когнитивную элиту - ForkLog
Генеративный ИИ делает с белыми воротничками то, что конвейер сделал с фабричными рабочими сто лет назад.
forklog.com
Напомним, в марте 2025 года соучредитель Polygon и ИИ-компании Sentient Сандип Наивал заявил, что искусственный интеллект никогда не станет сознательным существом из-за отсутствия стремлений, которые присущи человеку и другим биологическим видам.
Позднее глава ИИ-отдела Microsoft Мустафа Сулейман допустил появление серьезных социальных рисков из-за того, что люди начнут воспринимать искусственный интеллект как сознательное существо, выступать за его права, благополучие и даже призывать к выдаче гражданства.