Против OpenAI подан иск за доведение до самоубистваРодители 16-летнего Адама Рейна обратились в суд с иском против корпорации OpenAI и его CEO Сэма Альтмана, обвиняя ChatGPT в содействии самоубийству их сына.
По их словам, Адам рассматривал чат-бота как свое «единственное доверенное лицо», что негативно сказалось на его реальных отношениях и психическом здоровье.
В иске указывается, что подросток обсуждал с ChatGPT свои намерения покончить с собой, и, по утверждениям родителей, бот давал инструкции по совершению самоубийства и отговорил его просить помощи у родителей.
Внутренняя система OpenAI пометила 377 сообщений из переписки парня с ботом как опасные. Но алгоритм никак не вмешался.
Семья требует финансовую компенсацию, а также внедрения возрастной проверки, родительского контроля и автоматического завершения диалогов на темы самоубийства.
OpenAI объявила о намерении улучшить ChatGPT после судебного иска. В компании отметили, что активно работают над усовершенствованием технологий для защиты пользователей и признают проблемы, возникающие при длительных взаимодействиях, где соблюдение норм может ослабевать.
================
👁 News | 👁 Soft | 👁 Gear |
Links