OpenAI усилит меры по защите детей

[TechnoLab]

Компания OpenAI представила план, направленный укрепление системы безопасности детей во времена повсеместного распространения искусственного интеллекта и злоупотребления технологией.


Инициатива сосредоточена на трех ключевых приоритетах:

• модернизация законодательства для решения проблемы эксплуатации и насилия над детьми, создаваемого и изменяемого с помощью ИИ;
• улучшение отчетности и координации действий поставщиков услуг для поддержки более эффективных расследований;
• внедрение мер безопасности напрямую в ИИ-системы на этапе проектирования для предотвращения и выявления злоупотреблений.

«Не получится решить проблему с помощью точечных вмешательств. Данная концепция объединяет правовые, оперативные и технические подходы для более эффективного выявления рисков, ускорения реагирования и обеспечения подотчетности, одновременно гарантируя возможности для правоохранительных органов», — отметили в OpenAI.

По мнению представителей компании, эти шаги позволят отрасли решать проблемы безопасности на более ранних этапах.


План учитывает отзывы ряда ведущих американских организаций и экспертов в области защиты несовершеннолетних, включая NCMEC и прокуратуры различных юрисдикций.

«Сексуальная эксплуатация детей — одна из самых актуальных проблем цифровой эпохи. Искусственный интеллект быстро меняет как способы возникновения подобных преступлений в отрасли, так и методы борьбы с ними в масштабах всей страны», — подчеркнули в компании.

С середины 2025 года OpenAI делает шаги в этом направлении. Стартап уже внедрил меры родительского контроля, которые отслеживают и оповещают об опасных сигналах в поведении ребенка.

OpenAI усилит безопасность ИИ после трагедии с подростком

OpenAI поделилась планами по устранению недостатков ChatGPT после иска от семьи, обвинившей чат-бот в трагедии, которая случилась с их сыном.

forklog.com

Компания также ввела новые правила использования сервисов, которые запрещают эксплуатацию детских образов.


Напомним, в сентябре FTC начала расследования в отношении семи технологических фирм, выпускающих чат-боты для несовершеннолетних. В их числе Alphabet, Character.AI, Instagram, Meta, OpenAI, Snap и xAI.