Связанные с Alibaba и ее ИИ-лабораторией Qwen операторы провели масштабную кампанию по дистилляции Claude. Об этом говорится в письме Anthropic председателю банковского комитета Сената США Тиму Скотту и старшему демократу Элизабет Уоррен, пишет Reuters.
Компания назвала инцидент крупнейшей известной ей атакой по дистилляции. По данным агентства, с 22 апреля по 5 июня через почти 25 000 фиктивных аккаунтов создано более 28,8 млн взаимодействий с моделью.
В феврале Anthropic отмечала, что метод дистилляции часто используют легитимно: например, чтобы создать более дешевую или компактную версию модели. Проблема возникает, когда конкуренты получают доступ к передовому инструменту через фиктивные аккаунты, обходят ограничения сервиса и используют ответы для обучения собственных систем.
В письме Anthropic утверждает, что предполагаемая кампания была нацелена на способности Claude в агентных задачах, разработке программного обеспечения и долгосрочном планировании. По мнению разработчика, такие действия позволяют воспроизводить поведение передовой модели без затрат на ее обучение.
Представители компании также указали, что несанкционированная дистилляция может ускорить развитие китайских ИИ-систем для киберопераций, военных задач и разведки.
Чего Anthropic просит от Конгресса
Согласно Decrypt, Anthropic призвала законодателей расширить обмен техническими индикаторами и разведданными между разработчиками передовых ИИ-моделей и правительством США. Компания также попросила уточнить антимонопольные правила, чтобы фирмы могли делиться информацией о подобных атаках без риска нарушить законодательство о конкуренции.
Еще одна часть предложений касается экспортного контроля. Anthropic потребовала ужесточить ограничения на передовые ИИ-чипы и вычислительные ресурсы, а также закрыть лазейки, которые позволяют китайским организациям получать доступ к зарубежным дата-центрам. Компания предложила ввести санкции или другие меры против сторон, ответственных за крупномасштабное извлечение возможностей моделей.
Другие кейсы
В феврале Anthropic обвинила DeepSeek, Moonshot AI и MiniMax в генерации более 16 млн взаимодействий с Claude через примерно 24 000 фиктивных аккаунтов. Тогда разработчики утверждали, что связали кампании с конкретными лабораториями по IP-адресам, метаданным запросов, инфраструктурным индикаторам и, в некоторых случаях, данным от партнеров. Так, DeepSeek сгенерировала более 150 000 взаимодействий, Moonshot AI — свыше 3,4 млн, а MiniMax — около 13 млн.
Эти обвинения вызвали споры, поскольку дистилляция сама по себе остается распространенной отраслевой практикой. В апреле, как отмечает Decrypt, Илон Маск во время дачи показаний в федеральном суде заявил, что xAI «частично» использовала модели OpenAI при обучении Grok.
20 апреля конгрессмен Билл Хейзенга внес законопроект против извлечения ключевых технических характеристик закрытых американских ИИ-моделей иностранными противниками. По оценке Бюджетного управления Конгресса США, документ предусматривает экспортные ограничения и санкции против зарубежных структур, которые незаконно получают доступ к продуктам на базе искусственного интеллекта.
Напомним, в декабре 2025 года Nvidia сообщила о разработке технологии для проверки местоположения своих процессоров на фоне информации о контрабанде ускорителей в Китай.