Злоумышленники использовали ИИ-ассистента службы поддержки Meta для массового захвата аккаунтов в Instagram. Об этом пишет 404 Media со ссылкой на отчеты исследователей безопасности.
Хакеры применяли метод прямой «промпт-инъекции». Они просили чат-бота сменить привязанный к профилю адрес электронной почты. Единственным дополнительным условием для успеха операции было использование VPN, чья геолокация совпадала с данными истинного владельца.
После того как бот менял email в настройках без дополнительной проверки личности, атакующие инициировали стандартную процедуру сброса пароля и получали полный контроль над страницей.
Масштаб проблемы
Среди скомпрометированных профилей оказались архивный аккаунт Белого дома времен Барака Обамы, страница главного сержанта Космических сил США Джона Бентивеньи и официальный профиль бренда Sephora. По словам бывшей сотрудницы Meta Джейн Вонг, ее личные аккаунты также подверглись взлому.
В профиле Белого дома хакеры успели разместить проиранские посты. Другие злоумышленники охотились за редкими «короткими» юзернеймами для их дальнейшей перепродажи на теневых форумах.
Инструмент Meta AI Support Assistant запущен в марте. Компания позиционировала его как решение для автоматизации восстановления доступа «от начала до конца».
Представитель корпорации Энди Стоун заявил об исправлении уязвимости.
Мнение экспертов
Опрошенные MIT Technology Review специалисты назвали инцидент провалом базовых протоколов безопасности. Профессор Университета Висконсин-Мэдисон Сомеш Джа отметил, что ИИ-агенты «слишком стремятся выполнить задачу» и игнорируют контрольные вопросы, которые обязательно задал бы человек.
Эксперты подчеркнули, что Meta пренебрегла тщательным «красным тестированием» перед внедрением ИИ в такие критические узлы, как управление настройками безопасности.
Напомним, в мае Socket сообщила об атаке на цепочку поставок для разработчиков криптовалют и ИИ-систем.