22 ДЕКАБРЯ 2023 Г.
Глава ООН по глобальным коммуникациям призывает разработчиков ИИ «ставить людей выше прибыли»
Заместитель генерального секретаря по глобальным коммуникациям Мелисса Флеминг призвала разработчиков генеративного искусственного интеллекта поставить безопасность и права человека выше прибыли на заседании Совета Безопасности « Формула Аррии » .
Встреча по искусственному интеллекту и его влиянию на разжигание ненависти , дезинформацию и дезинформацию проходила под совместным председательством Объединенных Арабских Эмиратов и Албании, и на ней были представлены идеи цифровых экспертов Рахафа Харфуша и Дженнифер Вудард.
В своем обращении г-жа Флеминг отметила, что генеративный ИИ, если он будет разработан и использован ответственно, сможет улучшить права человека, включая доступ к информации, здравоохранению, образованию и государственным услугам.
Однако она выразила серьёзную обеспокоенность по поводу того, что эта технология может «резко усилить онлайн-вред».
С помощью генеративного искусственного интеллекта можно создавать большие объемы убедительной дезинформации – от текста до аудио и видео – в больших масштабах, с очень низкими затратами и с минимальным вмешательством человека.
Такой контент может распространяться массово не только в социальных сетях и через фейковые профили, но и по другим персонализированным каналам, таким как кампании по электронной почте, текстовые сообщения и рекламные объявления.
Генеративный ИИ оставляет мало отпечатков пальцев. Журналистам, специалистам по проверке фактов, правоохранительным органам и обычным людям гораздо труднее определить, является ли контент реальным или созданным искусственным интеллектом. Г-жа Флеминг выделила четыре области, вызывающие ключевую озабоченность ООН:
-- Мир и безопасность: дезинформация с помощью искусственного интеллекта уже ставит под угрозу мир и гуманитарные операции ООН, подвергая риску персонал и гражданское население. Более 70% миротворцев ООН, принявших участие в недавнем опросе, заявили, что дезинформация серьезно ограничивает их способность выполнять свою работу.
-- Нарушения прав человека: ИИ используется для создания и распространения вредоносного контента, включая материалы о сексуальном насилии над детьми и порнографические изображения, полученные без согласия, особенно нацеленные на женщин и девочек. ООН также глубоко обеспокоена тем, что антисемитский, исламофобский, расистский и ксенофобский контент может быть усилен генеративным искусственным интеллектом.
-- Демократия под угрозой: потенциал ИИ манипулировать избирателями и влиять на общественное мнение во время выборов представляет собой серьезную угрозу демократическим процессам во всем мире.
-- Подрыв науки и государственных институтов. Например, инструменты ИИ могут активизировать многолетние кампании по дезинформации, чтобы сорвать действия по борьбе с изменением климата, путем распространения ложной информации об изменении климата и возобновляемых источниках энергии.
-- В основе этих явлений лежит снижение общественного доверия к новостям и источникам информации.
Г-жа Флеминг процитировала недавний отчет, в котором выяснилось, что с мая этого года количество новостных сайтов, созданных с помощью искусственного интеллекта и работающих практически без человеческого контроля, выросло с 49 до почти 600. Некоторые из этих сайтов заполнены тысячами новых сайтов. статей в день. Они часто имитируют знакомые новостные веб-сайты и публикуют полностью вымышленные истории.
В свете этих проблем ООН создала Консультативный орган по ИИ для укрепления глобального управления ИИ.
Параллельно ООН разрабатывает кодекс поведения по обеспечению целостности информации, чтобы помочь повысить устойчивость общества к дезинформации и ненависти.
Г-жа Флеминг призвала к сбалансированному подходу к использованию преимуществ ИИ при одновременном снижении его рисков, подчеркнув необходимость здоровых информационных экосистем для стабильного и сплоченного общества.
Ее послание было ясным: разработчики ИИ должны ставить людей и их благополучие выше прибыли, обеспечивая, чтобы технологии служили силой добра.
Анализ с помощью ИИ.
