Искусственный интеллект усложняет, а не упрощает работу модераторов контента. Он не может надежно распознавать жестокость и зло, пишет Bloomberg со ссылкой на 13 профессиональных фильтраторов онлайн-материалов.
Один из сотрудников TikTok под псевдонимом Кевин заявил, что более года назад ему поручили использовать ИИ-программу в своей работе. Он оценил количество ошибок примерно в 70%. Например, искусственный интеллект может сообщить о низком уровне топлива на приборной панели автомобиля на видео, хотя должен проанализировать спидометр, показывающий 200 км/ч.
Кевин считает, что, несмотря на возникающие трудности, работодатели продолжат заменять людей машинами.
Профессиональные модераторы подтвердили утверждение — ИИ начинают применять быстрее, чем он учится качественно отсеивать вредоносный контент.
Эксперты опасаются возникновения контролируемой искусственным интеллектом интернет-среды, в которой ненависть, пропаганда, совращение детей и другие формы онлайн-угроз будут свободно распространяться.
Работа модератора контента наносит эмоциональные травмы, а найм достаточного количества людей — сложная задача. Пользователи только на YouTube загружают более 20 млн видео в день. Компании делают ставку на искусственный интеллект, однако он лишь мешает.
Из 13 модераторов, с которыми поговорили журналисты Bloomberg, 12 заявили об усложнении работы после интеграции нейросетей.
Кевин тратит время на исправление ошибок, вручную проставляя сверхточные метки для всего увиденного. Эта работа только увеличивает нагрузку и отнимает время, которое можно было бы потратить на более срочные задачи.
Он уверен, что его дотошные исправления фактически обучают систему, и в итоге она заменит его, хотя руководство прямо об этом не говорит.
Напомним, в мае 2024 года Reddit объявила о партнерстве с OpenAI, которое предоставило реддиторам и модераторам новые функции на базе ИИ.