Генеральный секретарь ООН Антониу Гутерриш призвал ввести общие правила для передовых ИИ-систем, защитить детей от рисков чат-ботов, запретить летальные автономные системы вооружений и расширить доступ развивающихся стран к вычислительным ресурсам.
Генсек ООН назвал происходящее «экспериментом над обществами без плана и без согласия». Он связал это с тремя рисками: скоростью распространения искусственного интеллекта, концентрацией вычислений и данных в руках небольшого числа компаний и стран, а также деградацией информационной среды.
По его словам, интернету потребовалось 15 лет, чтобы достичь 1 млрд пользователей, а ИИ справился с этим за два года. В предварительном докладе научной панели ООН отдельно указано, что ChatGPT достиг 100 млн пользователей за два месяца.
Современные системы, добавил Гутерриш, уже не просто ждут команд: они пишут код, действуют онлайн и принимают решения при все меньшем человеческом контроле.
«Нельзя вайб-кодить будущее человечества»
Гутерриш использовал термин «вайб-кодинг» как метафору пассивного управления ИИ: позволить системе делать работу, не вникая в механизм и последствия.
По словам генсека, у стран есть выбор не между верой в искусственный интеллект и страхом перед ним, а между осознанным управлением и пассивным дрейфом.
ООН предложила правила для ИИ и детей
Одним из главных приоритетов Гутерриш назвал защиту детей, призвав компании принять обязательство по безопасности ИИ-систем, доступных несовершеннолетним (AI Child Safety Pledge). По его словам, технология уже вошла в обучение, дружбу и личные вопросы детей до того, как общество проверило ее последствия.
Предложение включает три принципа:
- Не запускать доступные детям ИИ-системы без специального тестирования и независимого надзора.
- Нулевая терпимость к генерации сексуализированных изображений несовершеннолетних: компании должны выявлять, удалять и сообщать о таких материалах.
- Не оставлять ребенка в кризисе один на один с чат-ботом. Если система замечает признаки тяжелого состояния, она должна остановиться и подключить реальную человеческую поддержку.
Гутерриш также подчеркнул, что в сферах вроде правосудия, здравоохранения и полиции машины могут помогать, но решение и ответственность должны оставаться за человеком.
В Бристоле отключили ИИ-модели риска преступлений против детей из-за ошибок - ForkLog
Полиция Эйвона и Сомерсета и городской совет Бристоля перестали использовать как минимум две ИИ-модели, которые оценивали риск преступлений против детей
forklog.com
Запретить «роботов-убийц»
Отдельный блок выступления касался военного применения ИИ. Генсек заявил, что гражданское регулирование нельзя полностью отделить от сферы безопасности, поскольку одни и те же модели и чипы уже используются на поле боя.
Он призвал запретить международным правом летальные автономные системы вооружений — машины, которые могут выбирать и поражать цель без человеческого контроля и суждения.
По его словам, такие системы «морально отвратительны» и «политически неприемлемы». Он добавил, что государства уже ведут обсуждения, но не должны ждать трагедии, чтобы действовать.
Стеклянные нити войны - ForkLog
ИИ-инфраструктура и современные системы связи для беспилотников зависят от одного ресурса — оптоволоконного кабеля. Из-за дефицита стоимость некоторых марок
forklog.com
Развивающимся странам предложили фонд для ИИ
Гутерриш также заявил, что цифровой разрыв не должен превратиться в разрыв в области искусственного интеллекта, а затем — в разрыв развития, безопасности и суверенитета. По его словам, более 20 стран уже номинировали центры для поддерживаемой ООН глобальной сети обмена и сотрудничества в области ИИ-потенциала. Эта сеть должна помогать передавать знания, развивать кооперацию и расширять доступ к компетенциям, особенно для развивающихся государств.
Генсек анонсировал рекомендации по созданию глобального фонда для ИИ. Как указали в ООН, одна из тем обсуждения — преодоление разрыва в сфере, включая доступ к высокопроизводительным вычислениям, открытым данным, ПО и моделям.
Еще одним направлением Гутерриш назвал прозрачность. По его информации, дата-центры уже потребляют больше электроэнергии, чем большинство стран, а к 2030 году могут превзойти по энергопотреблению все государства, кроме пяти.
Капитуляция или эволюция: почему майнеры делают ставку на искусственный интеллект - ForkLog
Какое будущее ожидает первую криптовалюту, если хеширование превратится лишь в низкомаржинальный побочный продукт от аренды стоек под нейросети?
forklog.com
Напомним, с 15 июля в Китае вступят в силу временные меры по регулированию сервисов на основе технологий искусственного интеллекта, которые имитируют личность человека и поддерживают устойчивое эмоциональное взаимодействие. На фоне новых правил ByteDance и Alibaba начали отключать функции пользовательских ИИ-агентов в Doubao и Qwen.