Папа Лев XIV опубликовал свою первую энциклику. Документ под названием Magnifica Humanitas посвящен «защите человеческой личности в эпоху искусственного интеллекта».
Источник: vatican.va.
Хотя ИИ используется как главный повод, Лев сосредоточился на гораздо более древних и широких проблемах: неравенство, война, эрозия демократии и концентрация власти в руках тех, кто не преследует цель сделать человечество «великолепным».
200-страничный документ был представлен на мероприятии в Ватикане с участием сооснователя Anthropic Криса Олаха. В нем утверждается, что технология, которая создана и управляется узкой элитой, по определению не может служить общему благу.
Основные риски ИИ
Папа Лев XIV утверждает, что, как и при каждом крупном технологическом сдвиге, ИИ склонен усиливать власть тех, кто уже обладает экономическими ресурсами, экспертизой и доступом к данным. Элиты могут использовать влияние для «формирования информационных и потребительских моделей, воздействия на демократические процессы и направления экономической динамики в собственных интересах.
Отдельно Лев XIV предостерег от отождествления ИИ с человеческим интеллектом. По его словам, такие системы способны имитировать язык, поведение и аналитические навыки, но не обладают опытом, телесностью, совестью и ответственностью за последствия.
Папа выделил три риска личного использования ИИ: легкость получения ответов, иллюзию объективности и имитацию человеческого общения. Он предупреждает, что ИИ-собеседники могут создавать видимость заботы, дружбы или любви, особенно там, где человеку не хватает реальных связей.
Лев XIV отдельно призвал государства полностью не передавать алгоритмам решения, влияющие на занятость, кредиты, доступ к публичным услугам и репутацию человека. По его словам, такие системы выглядят «нейтральными», но фактически могут закреплять предубеждения разработчиков и исключать уязвимые группы без понятного механизма обжалования.
Среди рисков папа также называет экологическую нагрузку ИИ: крупные модели требуют значительных объемов энергии, воды, вычислительной мощности, дата-центров и другой инфраструктуры.
Отдельный раздел посвящен военному применению искусственного интеллекта. Лев XIV заявил, что моральное суждение нельзя свести к расчету, а летальные или необратимые решения недопустимо делегировать непрозрачным автоматизированным системам. По его словам, ИИ может сделать конфликт более быстрым, безличным и снизить порог применения насилия.
Эффективное развитие
Папа призвал направлять развитие LLM с помощью «четких критериев и эффективного регулирования». Должны привлекаться сообщества, на которые технология повлияет.
Также понтифик заявил о необходимости покончить с гонкой ИИ-вооружений — стремлением создавать все более мощные алгоритмы и крупные наборы данных, которые позволят обеспечить политическое и коммерческое доминирование.
Напомним, в феврале на встрече с духовенством Римской епархии папа Лев XIV призвал «сопротивляться искушению проведения проповеди с помощью искусственного интеллекта».
Храм в Сеуле посвятил робота в буддийские монахи - ForkLog: криптовалюты, ИИ, сингулярность, будущее
6 мая в Сеуле прошла буддийская церемония, во время которой робот-гуманоид принял присягу и стал монахом.
forklog.com