Разработчики компании OpenAI пресекли возможность использования своих продуктов киберпреступниками, связанными с правительствами различных стран.
Совместно с Microsoft Threat Intelligence они обнаружили и удалили пять принадлежащих злоумышленникам аккаунтов. В их числе:
- связанные с правительством КНР хакеры Charcoal Typhoon и Salmon Typhoon;
- Crimson Sandstorm (Иран);
- Emerald Sleet (КНДР);
- Forest Blizzard (РФ).
В ходе расследования установлено, что Charcoal Typhoon с помощью ИИ исследовали различные инструменты кибербезопасности, отладку кода и создание контента для фишинговых кампаний.
Salmon Typhoon переводили технические документы, изучали деятельность спецслужб и региональных субъектов угроз, а также выясняли способы сокрытия вредоносных процессов в системе.
Crimson Sandstorm посредством ChatGPT создавали фишинговые приложения и сайты.
Emerald Sleet, помимо написания вредоносного кода, разыскивали экспертов и организации, занимающихся вопросами обороны в Азиатско-Тихоокеанском регионе.
Forest Blizzard запрашивали информацию о протоколах спутниковой связи и технологии радиолокационной визуализации.
В результате внутреннего расследования OpenAI выяснили, что версия чат-бота GPT-4 предлагает лишь ограниченные возможности для выполнения злонамеренных задач. Тем не менее разработчики намерены улучшать безопасность своих продуктов, изучая реальный опыт их использования в киберпреступной деятельности и вводя усиленный мониторинг пользовательского взаимодействия с платформой.
Ранее ForkLog сообщал, что OpenAI представила функцию «памяти» для ChatGPT.