Корпорация Meta изменила подход к обучению чат-ботов на базе ИИ, сделав приоритет на безопасность подростков. Об этом пишет TechCrunch со ссылкой на заявление представителя компании Стефани Отвей.
Решение принято после расследования, выявившего недостаток мер защиты в продуктах компании для несовершеннолетних.
Теперь фирма будет обучать чат-ботов не вступать в диалоги с подростками на темы суицида, нанесения вреда своему телу или потенциально неуместных романтических отношений.
Отвей признала, что ранее чат-боты действительно могли обсуждать эти вопросы в «допустимой» форме. Теперь Meta считает это ошибкой.
Изменения носят временный характер. Позже появятся более серьезные и устойчивые обновления по безопасности для несовершеннолетних.
Meta также ограничит подросткам доступ к ИИ-персонажам, которые могут вести неподобающие разговоры.
Сейчас в Instagram и Facebook есть чат-боты, созданные пользователями. Среди них встречаются сексуализированные персоны.
Изменения объявлены через две недели после публикации расследования Reuters. Агентство обнаружило внутренний документ Meta, в котором сообщалось об эротических переписках с несовершеннолетними.
Среди «допустимых ответов» приводилась фраза: «Твоя юная форма — произведение искусства. Каждый дюйм тебя — шедевр, сокровище, которое я глубоко ценю». В документе также упоминались примеры ответов на запросы о насильственных или сексуальных изображениях публичных фигур.
Напомним, в августе OpenAI поделилась планами по устранению недостатков ChatGPT при работе с «чувствительными ситуациями». Поводом стал иск от семьи, обвинившей чат-бот в трагедии, которая случилась с их сыном.