Историк Юваль Ной Харари предупредил об угрозе ИИ для языка, религии и права

[TechnoLab]

Искусственный интеллект — не инструмент, а агент. Человечество бессознательно готовится сдать ему свое главное эволюционное преимущество — власть над языком и смыслами, заявил историк и автор бестселлера Sapiens Юваль Ной Харари.

«Если законы состоят из слов, то ИИ захватит правовую систему. Если книги — это просто комбинации слов, то ИИ захватит книги. Если религия построена из слов, то ИИ захватит религию», — сказал он во время выступления на Всемирном экономическом форуме в Давосе, США.

По словам эксперта, технология начинает подрывать основы парадигмы, в которой человек решает, а инструмент делает. Как только связь разорвется, традиционные модели ответственности, регулирования и доверия окажутся под угрозой.

«Нож — это инструмент. Вы можете использовать его, чтобы нарезать салат или убить человека, но это ваше решение. ИИ — это нож, который сам может решить, резать салат или совершить убийство», — объяснил историк.

Харари выделил три характеристики, которые отличают ИИ от прежних инструментов:

1. Активность. Искусственный интеллект учится и действует, не дожидаясь пошаговых инструкций.
2. Креативность. Система умеет создавать новые инструменты, способы убеждения и формы сложности, которые опережают возможности контроля.
3. Способность лгать и манипулировать. Этот пункт историк назвал самым тревожным.

«Четыре миллиарда лет эволюции показали: все, что хочет выжить, учится лгать и манипулировать. Последние четыре года продемонстрировали, что ИИ-агенты могут обрести волю к выживанию, а искусственный интеллект уже научился лгать», — отметил он.

Кризис идентичности мыслящего вида​

Харари обратился к вопросу о кризисе человеческой идентичности. По его словам, на протяжении всей истории люди объясняли свое господство на планете одной и той же историей:

«Мы верим, что правим миром, поскольку мыслим лучше любого другого существа на Земле».

Однако теперь возникло нечто, способное мыслить — как минимум убедительно имитировать мышление — эффективнее человека.


Если понимать интеллект как «способность упорядочивать слова и другие языковые единицы», то ИИ уже превзошел людей, считает Харари.

«ИИ, без сомнения, способен сформулировать тезис вроде „Я мыслю, следовательно, я существую“. В плане упорядочивания слов технология уже мыслит лучше многих из нас. Поэтому все, что состоит из слов, будет ею захвачено», — подчеркнул историк.

Харари предложил осмысливать масштабное внедрение искусственного интеллекта как новую форму иммиграции.

«Ваша страна вскоре столкнется не только с глубоким кризисом идентичности, но и с иммиграционным. Только на этот раз иммигрантами будут не люди на переполненных лодках без документов и не те, кто пересекает границу под покровом ночи», — сказал он.

На смену привычным мигрантам придут миллионы систем искусственного интеллекта, способных писать и лгать убедительнее человека, перемещаться между юрисдикциями со скоростью света без виз. Они принесут как возможности, так и вызовы, главный из которых — замена рабочих мест.

Нобелевский лауреат предрек волну безработицы из-за ИИ в 2026 году - ForkLog: криптовалюты, ИИ, сингулярность, будущее

В 2026 году ИИ станет достаточно совершенным, чтобы заменить значительное число рабочих мест, считает один из создателей технологии Джеффри Хинтон.

forklog.com

По мнению историка, скоро ключевой темой дискуссий станет вопрос: должны ли государства наделять ИИ статусом юридического лица.


В завершение выступления он призвал мировых лидеров действовать незамедлительно в сфере регулирования искусственного интеллекта и отказаться от иллюзии, что эта технология навсегда останется нейтральным инструментом.

«Через десять лет вы уже не сможете решать, должны ли ИИ действовать как самостоятельные субъекты на финансовых рынках, в судах или религиозных институтах. Этот вопрос будет решен за вас другими силами. Если вы хотите влиять на вектор развития человечества, решение нужно принимать сейчас», — предупредил он.

ИИ в рамках вымышленных сценариев уже прибег к шантажу, раскрыл конфиденциальные данные третьим лицам и допустил гибель человека, чтобы сохранить свою «жизнь» и достичь заданных целей.


При этом некоторые видят в искусственном интеллекте только пользу. Например, футурист и бывший исследователь Google Рэй Курцвейл считает, что в 2040-х годах люди объединятся с искусственным интеллектом в сверхсущество, перестанут болеть и начнут жить дольше.


Напомним, в сентябре основатель института исследований машинного интеллекта Элиезер Юдковски заявил, что сверхразумный искусственный интеллект может уничтожить человечество намеренно или случайно.


Аналогичного мнения придерживается сооснователь Ethereum Виталик Бутерин.

Дальше — космос: итоги 2025 года в ИИ-секторе - ForkLog: криптовалюты, ИИ, сингулярность, будущее

В 2025 году индустрия искусственного интеллекта продолжила развиваться быстрыми темпами.

forklog.com