ИИ-сгенерированные аккаунты, имитирующие врачей, набирают миллионы просмотров в TikTok и распространяют ложные советы о здоровье. Об этом пишет The Guardian со ссылкой на исследование маркетингового агентства Hallam.
Издание отметило, что работа не явялется академической. Авторы проанализировали 1198 видео. В выборку вошли топ-50 роликов по нескольким поисковым запросам, включая «health tips», «doctor advice», «nutrition tips» и «mental health tips».
Hallam вручную оценивало видео по признакам ИИ-генерации или обработки: синтетическому голосу, визуальным артефактам, повторяющимся сценариям, стилю субтитров, сгенерированной искусственным интеллектом музыке и другим маркерам. Тем не менее подобная методология не дает полной верификации происхождения роликов.
Согласно исследованию, контент с признаками генерации или обработки с помощью искусственного интеллекта присутствовал в 40% популярных TikTok-видео на тему здоровья. По запросу «health tips» доля таких роликов достигала 84%.
Источник: Hallam.
Среди видео The Guardian обнаружила опровергнутые утверждения о причинах рака. В роликах говорилось, что болезнь могут вызывать разогрев еды в пластике, использование дезодорантов и сон рядом с телефоном. Тезисы опровергли в Cancer Research UK, отметив, что это не подтверждено надежными научными данными.
В других роликах продвигали смесь Coca-Cola с луком как средство от боли и продукт Hyalethinap Plus Pro Max как решение против старения. The Guardian не нашла подтверждений существования такого продукта в сети.
Заместитель председателя совета British Medical Association Эмма Рансвик заявила, что подобные аккаунты продвигают медицинские мифы и «чудо-средства». По ее словам, платформы вроде TikTok должны активнее бороться с опасными фейковыми советами о здоровье.
Медицинский директор NHS Фрэнки Свордс добавила, что врачи все чаще сталкиваются с пациентами, которых пугают или запутывают ложные советы, созданные ради просмотров. Президент Royal College of GPs Виктория Цортзиу Браун предупредила о риске реального вреда.
Исследователь дезинформации о здоровье из UCL Алекс Руани назвала происходящее эксплуатацией доверия «в промышленных масштабах».
Представитель TikTok в комментарии The Guardian оспорил выводы Hallam. По его словам, сервис удаляет вредную медицинскую дезинформацию, включая ИИ-сгенерированный контент, а также сотрудничает с Всемирной организацией здравоохранения и NHS. Компания удалила примеры роликов, которые передали журналисты.
В правилах платформы говорится, что авторы должны маркировать реалистичный ИИ-контент с изображениями, аудио или видео. TikTok также запрещает вредную дезинформацию и контент, вводящий пользователей в заблуждение через имитацию других лиц.
В феврале Science Feedback описал сеть TikTok-аккаунтов с ИИ-сгенерированными медицинскими персонажами. Они распространяли сомнительные советы и использовали образы реальных специалистов без маркировки. После обращения платформа удалила аккаунты, нарушавшие правила против имитации личности.
The Guardian также указала на опасения вокруг перехода платформы к более активному использованию ИИ-модерации. В 2025 году стало известно о сокращениях в командах TikTok, отвечающих за безопасность пользователей и проверку видео, включая планы по увольнению части британских сотрудников. Бывшие модераторы говорили The Independent, что автоматические системы пока не всегда корректно оценивают спорный контент.
Фейки, дипфейки и чат-боты: как распознать ИИ-манипуляции в интернете
Почему фактчекеры будут последними, кого искусственный интеллект «оставит без работы».
forklog.com
Напомним, в ноябре 2025 года TikTok анонсировал инструмент для ограничения ИИ-контента в ленте. Платформа также планировала интегрировать «невидимые водяные знаки», которые сложнее удалить при повторной загрузке или редактировании ролика.