Китайский регулятор в сфере кибербезопасности опубликовал для общественного обсуждения проект правил надзора над ИИ-сервисами, имитирующими человеческую личность. Об этом сообщает Reuters.
Нормы будут применяться к продуктам и услугам на базе искусственного интеллекта, которые воспроизводят человекоподобные модель мышления и стиль общения, взаимодействуя с пользователем на эмоциональном уровне. В коммуникациях могут применяться тексты, изображения, аудио, видео и другие материалы.
Документ призван усилить требования к провайдерам подобных сервисов с точки зрения безопасности и этики.
Проект правил обязывает поставщиков услуг:
- нести ответственность за безопасность на протяжении всего жизненного цикла продукта;
- реализовать систему проверки алгоритмов для защиты данных и приватной информации.
- оценивать эмоциональное состояние пользователей, их уровень психологической зависимости от сервиса, а также вмешиваться в случае необходимости.
Предлагаемые меры также запрещают ИИ-сервисам генерировать контент, который ставит под угрозу национальную безопасность КНР, распространяет слухи или пропагандирует насилие и непристойности.
Министерство науки и технологий Китая еще в 2021 году представило набор этических принципов регулирования искусственного интеллекта с упором на защиту прав пользователей и предотвращение рисков. В числе основных пунктов значились: обеспечение «управляемости и надежности» ИИ, честности и справедливости а также повышение этической грамотности.
Через два года Администрация киберпространства опубликовала правила регулирования алгоритмов генеративного ИИ. При требованиях вроде обеспечения достоверности контента и, уважения интеллектуальной собственности отдельно упоминался запрет на призывы к подрыву государственного строя.
Напомним, власти Китая увидели угрозу перегрева рынка человекоподобных роботов.
Made in China: почему роботы — новая Великая китайская стена
Десятки человекоподобных роботов под руководством операторов складывают футболки, готовят сэндвичи и открывают двери на огромном складе в пригороде Шанхая.
forklog.com