Опасения Белого дома из-за возможного доступа связанной с Китаем группы к модели Mythos стали одной из причин экспортных ограничений для Anthropic. Об этом сообщает Semafor со ссылкой на источник.
Параллельно Business Insider и Axios назвали другим триггером сообщения об обходе защиты Fable 5. Сама Anthropic утверждает, что речь шла о «узком» и неуниверсальном способе, который не давал модели уникальных возможностей.
Что стало триггером
Согласно СМИ, администрацию Дональда Трампа насторожили подозрения в доступе к Mythos со стороны группы, связанной с Китаем. Журналисты не уточнили, о какой организации идет речь, как это произошло и откуда Белый дом узнал об эпизоде.
По данным The Verge, Белый дом публично не подтверждал эту версию. Представитель Anthropic заявил Semafor, что в переговорах с властями тема «китайского доступа» к Mythos не поднималась. Компания запрещает доступ к своим продуктам из КНР.
В Business Insider отметили, что 11 июня CEO Amazon Энди Джесси сообщил администрации президента о возможности обойти ограничения Fable 5. По словам собеседника издания, коропорация отвечала на запрос о проверке модели. Согласно Axios, министр торговли США Говард Латник направил главе Anthropic Дарио Амодеи письмо, по которому Fable 5 и Mythos 5 подпадали под экспортный контроль за пределами США и для всех иностранных лиц внутри страны.
Чиновники якобы пытались убедить Anthropic добровольно приостановить доступ к моделям, но компания не согласилась. Собеседник издания, близкий к стартапу, оспорил эту версию и заявил, что Белый дом дал стартапу 90 минут на отключение моделей без подробностей о характере угрозы.
13 июня советник главы Белого дома Дэвид Сакс написал в X, что администрация получила предупреждение о возможном обходе защит Fable 5 от партнера, которому доверяли и власти, и Anthropic.
Позиция Anthropic
Anthropic заявила, что письмо властей не содержало конкретных деталей о рисках для национальной безопасности. По версии компании, претензии касались способа обхода защиты Fable 5.
Стартап утверждает, что изучил демонстрацию этой техники. По его оценке, она позволяла найти «небольшое число ранее известных незначительных уязвимостей». В Anthropic добавили, что другие публично доступные модели способны выявлять те же проблемы без обхода защиты.
Компания также заявила, что перед запуском Fable 5 потратила «тысячи часов» на тестирование защит вместе с правительством США, британским Институтом безопасности ИИ, сторонними организациями и внутренними командами. По данным Anthropic, тестировщики пока не нашли универсальный способ массово обходить ограничения модели.
9 июня Anthropic представила Fable 5 и Mythos 5. Компания назвала Fable 5 моделью класса Mythos для общего доступа. Mythos 5 использует ту же базовую модель, но имеет ослабленные ограничения в отдельных областях и предназначена для киберзащитников и поставщиков критической инфраструктуры в рамках Project Glasswing.
2 июня Anthropic сообщила о расширении Project Glasswing примерно на 150 организаций более чем из 15 стран. По данным компании, ранние партнеры программы к тому моменту нашли свыше 10 000 уязвимостей высокой и критической степени.
Напомним, после экспортной директивы властей США, потребовавшей от Anthropic ограничить доступ иностранных граждан к моделям Fable 5 и Mythos 5, токены децентрализованных ИИ-проектов Venice и Morpheus выросли на 14% и 21% соответственно.