Компания Anthropic остановила доступ к моделям Fable 5 и Mythos 5, которые представила 9 июня. Причиной стала директива правительства США в рамках экспортного контроля.
В фирме заявили, что документ формально запрещает доступ любым иностранным гражданам, включая иностранных сотрудников Anthropic. Из-за этого сервис отключили полностью.
Заявление Anthropic опубликовано 12 июня. По словам компании, директива пришла в тот же день в 17:21 по восточному времени США. В письме не было конкретики о рисках для национальной безопасности.
Anthropic связала решение властей с техникой обхода защит Fable 5. Компания утверждает, что проверила демонстрацию и увидела лишь небольшое число ранее известных незначительных уязвимостей. По ее словам, такие уязвимости относительно просты, а другие публично доступные модели тоже способны находить их без обхода защит.
Перед запуском Fable 5 защитные механизмы тестировали правительство США, британский AISI, несколько сторонних организаций и внутренние команды. На проверки ушли тысячи часов тестирования. Anthropic заявила, что универсальный джейлбрейк для модели пока не найден.
Компания напомнила, что для Fable 5 действует 30-дневное хранение данных клиентов — для расследования и закрытия обходов. При этом от правительства, по ее словам, поступали только устные сведения о возможном узком, неуниверсальном джейлбрейке. Предполагаемая техника, как описывает Anthropic, сводилась к просьбе к модели прочитать конкретную кодовую базу и исправить ошибки в ПО.
Anthropic заявила, что изучила отчет, который, как она считает, лег в основу директивы, и пришла к выводу: показанный уровень возможностей доступен и у других моделей, включая GPT-5.5 от OpenAI. Компания подчеркнула, что выполнит юридическое требование, но не согласна с отзывом коммерческого продукта из-за узкого потенциального обхода защит. По ее мнению, такой стандарт для всей отрасли фактически остановит запуск новых моделей.
Доступ к остальным продуктам Anthropic не изменился. Компания извинилась перед клиентами и сообщила, что работает над разрешением ситуации, которую назвала «недоразумением».
Напомним, в июне CEO Anthropic Дарио Амодеи призвал США ужесточить подход к регулированию искусственного интеллекта и перейти от режима раскрытия информации к обязательным проверкам безопасности наиболее мощных ИИ-моделей.