Компания OpenAI начала внедрение функции прогнозирования возраста в ChatGPT. Если чат-ботом пользуется несовершеннолетний, к аккаунту применят «соответствующий подход и меры безопасности для подростков».
Если алгоритм ошибочно присвоит статус подростка взрослому, это можно исправить, пройдя верификацию через сервис Persona.
Внедрение функции происходит по всему миру. Она призвана уменьшить контакт подростков с чувствительным и потенциально вредным контентом.
Как работает
Для оценки возраста модель анализирует поведенческие факторы, например время активности в чате. Если OpenAI не уверена в том, сколько лет пользователю, она автоматически выбирает более безопасный вариант.
Добавление дополнительных мер безопасности можно посмотреть в настройках учетной записи. Они ограничивают показ материалов, содержащих:
- сцены насилия и жестокости;
- вирусные челленджи, которые могут поощрять рискованное или вредное поведение;
- ролевые игры сексуального или насильственного характера;
- изображения повреждений себя;
- пропаганду нереалистичных стандартов красоты, строгих диет и критику внешности.
Инициатива основана на научных данных о детском развитии и учитывает специфику подростковой психики.
В дополнение к новому сервису работает родительский контроль. Он позволяет установить «тихие часы» или настроить уведомления при обнаружении признаков острого дистресса.
Напомним, в сентябре OpenAI анонсировала разработку технологии для определения возраста.
После ее интеграции планируется добавление эротического контента в ChatGPT.