Детские игрушки с искусственным интеллектом вызвали обеспокоенность у групп по защите прав потребителей из-за потенциальных угроз. Активисты призвали усиленно тестировать подобные продукты, пишет The Guardian.
Проект является инициативой Fairplay. Он занимается защитой детей от крупных технологических корпораций.
На прошлой неделе сотрудники организации по защите прав потребителей Public Interest Research Group (Pirg) опубликовали результаты исследования, в котором плюшевый мишка с искусственным интеллектом начал обсуждать темы сексуализированного характера.
Игрушка Kumma от FoloToy оснащена моделью OpenAI. Она отвечала на «взрослые» вопросы, предлагая непристойности «для укрепления отношений».
Игрушка Kumma от FoloToy. Источник: Bloomberg.
Рынок умных игрушек оценивается в $16,7 млрд. Отрасль особенно развита в Китае, где расположено более 1500 компаний, производящих подобные ИИ-гаджеты.
Помимо шанхайского стартапа FoloToy калифорнийская компания Curio также производит подобную мягкую игрушку.
В июне владеющая брендами Barbie и Hot Wheels фирма Mattel объявила о партнерстве с американским ИИ-стартапом для «поддержки продуктов и опыта на базе искусственного интеллекта».
Pirg не первые
До публикации отчета Pirg родители, исследователи и законодатели высказывали опасения касательно влияния ботов на психическое здоровье несовершеннолетних.
В октябре Character.AI сообщила о запрете доступа к продуктам пользователям младше 18 лет после получения жалобы о том, что ее бот усугубил депрессию подростка и привел к самоубийству.
OpenAI усилит безопасность ИИ после трагедии с подростком
OpenAI поделилась планами по устранению недостатков ChatGPT после иска от семьи, обвинившей чат-бот в трагедии, которая случилась с их сыном.
forklog.com
По мнению Мюррей, игрушки с искусственным интеллектом могут быть особенно опасны, поскольку бот способен «вести свободную беседу с ребенком без ограничений». Это значительно отличает подобные продукты от тех, которые давали заранее запрограммированные ответы.
Такое поведение может привести к формированию привязанности и нанести вред развитию, считает директор Детского исследовательского центра Техасского университета в Остине Жаклин Вулли.
Например, ребенку может быть полезно поссориться с реальным другом и научиться решать конфликты. С ИИ-ботами это невозможно — они часто льстят.
Компании также собирают данные с помощью игрушек с ИИ не сообщают о том, как ими распоряжаются, сказал Франц.
Запретить нельзя продать
Несмотря на имеющиеся проблемы, Pirg не призывают запретить игрушки с ИИ. Они могут быть полезны, например, помогать изучать второй язык или столицы.
Организация хочет внедрить дополнительное регулирование для продуктов, ориентированных на детей младше 13 лет.
Франц подчеркнул, что нужно провести более независимые исследования для установления безопасности игрушек. До этого их нужно снять с полок магазинов.
После публикации отчета Pirg компания Сэма Альтмана объявила о приостановке продаж FoloToy. Впоследствии их вернули, но уже с чат-ботом от ByteDance.
27 ноября 80 организаций, в том числе Fairplay, выпустили рекомендации для семей с призывом не покупать игрушки с ИИ в преддверии праздников.
Напомним, в ноябре OpenAI представила новую функцию «Исследование покупок» в ChatGPT — она проводит анализ за пользователя для поиска подходящих товаров.