Злоумышленники находят способы использовать чат-бот Claude для проведения масштабных кибератак, несмотря на наличие сложных защитных механизмов. Об этом рассказала компания Anthropic в отчете Threat Intelligence.
Алекс Моикс, Кен Лебедев и Джейкоб Клейн привели несколько случаев, когда преступники применили ИИ. В ряде атак вымогатели требовали более $500 000.
Чат-бот использовался не только для предоставления технических консультаций, но и для выполнения взломов через так называемый вайб-хакинг (vibe hacking). Подобные атаки требуют лишь базовых знаний в программировании и шифровании.
Вайб-хакинг — форма социальной инженерии, при которой злоумышленники используют ИИ-агентов для манипуляции эмоциями и доверием жертвы. В отличие от классического фишинга (где подделывают письма или сайты), здесь атака выглядит как «дружеское» или «убедительное» взаимодействие — создается «правильный вайб» общения. ИИ может автоматически подстраиваться под тон, стиль и настроение собеседника, чтобы завоевать доверие и убедить выполнить вредоносное действие.
Anthropic выявила одного хакера, который с помощью вайб-хакинга и Claude похитил конфиденциальные данные как минимум у 17 организаций, в том числе медучреждений, служб экстренной помощи, госструктур и религиозных формирований. Он требовал выкуп от $75 000 до $500 000 в биткоинах.
Хакер обучил Claude анализировать украденные финансовые записи, рассчитывать подходящие суммы выкупа и писать индивидуальные письма с требованием выкупа, чтобы усилить психологическое давление.
ИИ-стартап также обнаружил, что северокорейские IT-специалисты применяли Claude для создания убедительных фейковых личностей, прохождения технических тестов по программированию и даже получения удаленных должностей в американских технологических компаниях из списка Fortune 500. Они использовали Claude для подготовки ответов на собеседованиях.
Распределение задач, которые северокорейские выполняли с помощью Claude. Данные: Anthropic.
Предполагается, что один из злоумышленников проходил отборочную беседу на позицию программиста в Polygon Labs. В других заготовленных ответах говорится, что он имел опыт работы в OpenSea и Chainlink.
Напомним, Anthropic запрограммировала чат-боты Claude Opus 4 и 4.1 на завершение диалогов с пользователями «в редких, экстремальных случаях систематически вредоносного или оскорбительного взаимодействия».