ИИ-стартап OpenAI планирует перенаправлять конфиденциальные разговоры на модели рассуждений и внедрить родительский контроль.
Меры предпринимаются в рамках ответных действий на недавние инциденты, связанные с безопасностью. В некоторых случаях ChatGPT не смог обнаружить психическое расстройство у пользователей.
OpenAI усилит безопасность ИИ после трагедии с подростком
OpenAI поделилась планами по устранению недостатков ChatGPT после иска от семьи, обвинившей чат-бот в трагедии, которая случилась с их сыном.
forklog.com
28 августа газета The Wall Street Journal сообщила об еще одном случае — Стейн-Эрик Соэльберг использовал чат-бот для усиления своей паранойи. Ему казалось, будто он стал жертвой грандиозного заговора. Синдром прогрессировал настолько, что Соэльберг убил свою мать и покончил жизнь самоубийством.
OpenAI утверждает, что ее «думающие» нейросети более устойчивы к враждебным промптам.
Уведомления о потенциально вредоносном контенте уже интегрированы в ChatGPT.
Уведомление в ChatGPT о подозрительном запросе. Источник: ForkLog.
Родительский контроль позволит связывать учетные записи с аккаунтами своих детей через приглашение по электронной почте.
Родители смогут контролировать то, как ChatGPT отвечает их детям. Также можно будет отключить функцию памяти и историю чата. Благодаря этому снизится вероятность возникновения зависимости и привязанности к чат-боту.
Среди других грядущих функций — уведомления о том, что ребенок находится в состоянии «острого дистресса».
Напомним, в июле OpenAI представила специальный режим обучения для студентов в ChatGPT, который помогает прорабатывать задачи поэтапно, а не просто получать готовый ответ.