Вечером в минувшую пятницу, 5 апреля, инновационные модели искусственного интеллекта Fable 5 и Mythos 5 от компании Anthropic* стали недоступны для всех пользователей по всему миру. При этом другие модели серии Claude продолжают функционировать в обычном режиме.
Согласно заявлению Anthropic*, правительство США, ссылаясь на полномочия в области национальной безопасности, издало директиву, требующую от компании отключить доступ к двум моделям для «любого иностранного гражданина, находящегося как внутри, так и за пределами Соединенных Штатов, включая иностранных сотрудников Anthropic*». Фактически это привело к полному отключению Fable 5 и Mythos 5 для всех пользователей.
Реакция Anthropic* на Требования
Компания Anthropic* первоначально назвала документ правительства «директивой», но затем уточнила, что это было письмо, которое «не содержало конкретных деталей опасений по поводу национальной безопасности». В Anthropic* полагают, что правительство располагает информацией о методе обхода или «взлома» (jailbreaking) модели Fable 5. Под «взломом» в данном контексте понимается способ заставить ИИ генерировать нежелательный или опасный контент, обходя его защитные механизмы.
В компании заявили, что им была продемонстрирована «специфическая техника», использованная для выявления «небольшого числа ранее известных, незначительных уязвимостей». Anthropic* также отметила, что все выявленные уязвимости «относительно просты» и «другие общедоступные модели также способны обнаруживать их без необходимости обхода защиты». В то же время в компании подчеркнули, что «ни один тестер пока не смог найти универсальный метод обхода», и выразили мнение, что «идеальная устойчивость к обходу в настоящее время недостижима ни для одного поставщика моделей».
Поиск Уязвимостей и Директива
По данным Anthropic*, правительство предоставило лишь устные доказательства потенциального «узкого, неуниверсального взлома». Этот «взлом», как утверждается, заключается в инструкции модели «прочитать определенную кодовую базу и исправить любые программные ошибки». В компании заявили, что ознакомились с отчетом, который, по их мнению, лег в основу директивы.
Anthropic* не согласилась с утверждением, что подобная функциональность уникальна для Fable 5 и Mythos 5, отметив, что аналогичные возможности доступны и в других моделях, включая GPT-5.5 от OpenAI*. По словам представителей компании, эта «возможность» ежедневно используется специалистами по кибербезопасности для защиты систем.
Развитие Событий и Дополнительные Детали
В течение выходных в интернете появились дополнительные сообщения, проливающие свет на ситуацию. Дэвид Сакс, бывший специальный советник Белого дома по ИИ и криптовалютам, а ныне сопредседатель Президентского совета советников по науке и технологиям, написал в X (ранее Twitter), что администрация просила Anthropic* исправить обнаруженный «взлом» или отозвать модель, но глава компании Дарио Амодей отказался.
По данным Politico, гендиректор Amazon* Энди Джесси первым сообщил о проблеме в Белый дом, что привело к введению экспортных ограничений. Однако The Verge сообщила, что именно собственное исследование безопасности Amazon* стало причиной вмешательства Белого дома, а не просто телефонный звонок Джесси.
The Wall Street Journal сообщила, что Amazon* передала данные об обнаруженных уязвимостях в Министерство торговли, которое затем наложило запрет. Axios сообщил, что Министерство торговли дало Anthropic* около 90 минут в пятницу на отключение моделей, а официальное письмо с контрольными мерами последовало в 17:30 по восточному времени США.
The Information со ссылкой на неназванного представителя США сообщила, что Белый дом вряд ли распространит ограничения на другие ИИ-компании.
Также были опубликованы два заявления от представителей правительства в X. Пит Хегсет, министр обороны США (ранее Секретарь по обороне), написал: «Три месяца назад @DeptofWar навсегда выгнала @AnthropicAl из нашего здания. Каждый день доказывает, что это был правильный шаг». Главный информационный директор Министерства обороны Кирстен Дэвис добавила: «Мы полностью поддерживаем @POTUS (Президента США) и @SecWar в приоритете национальной безопасности и безопасности наших военнослужащих, партнеров, критически важной инфраструктуры, международных партнеров и союзников. Некоторые вещи просто важнее циклов прибыли, кликбейта и оценки перед IPO. Америка прежде всего. Всегда.»
По состоянию на вечер воскресенья, Axios сообщил, что старшие технические сотрудники Anthropic* были направлены в Вашингтон для продолжения переговоров с Белым домом. Очевидно, что эти переговоры перешли из виртуального формата в личные встречи и рабочие сессии.
Несогласие Anthropic* с Директивой
Anthropic* заявила, что «правительство должно иметь возможность блокировать небезопасные развертывания в рамках законодательного процесса, который является прозрачным, справедливым, ясным и основанным на технических фактах».
Компания выполняет директиву и отключает доступ к двум новым базовым моделям для всех пользователей, но выражает несогласие с тем, что «обнаружение узкого потенциального обхода защиты должно быть причиной отзыва коммерческой модели, развернутой для сотен миллионов людей».
В Anthropic* также заявили, что если подобная реакция будет применяться «по всей отрасли», это может иметь негативные последствия для развертывания новых моделей всеми поставщиками передовых ИИ-решений.
В завершение своего объявления Anthropic* принесла извинения за возникшие неудобства. В компании выразили уверенность, что это «недоразумение» и ведется работа по скорейшему восстановлению доступа.
Неожиданный Маркетинговый Эффект
Эта история вызвала широкий интерес. С одной стороны, обеспокоенность потенциальным военным применением ИИ-разработок Anthropic* имеет реальные последствия для национальной безопасности. По мере осмысления развития ИИ возникают вопросы о новых вызовах, которые может принести быстрый прогресс технологий.
С точки зрения Anthropic*, компания, несомненно, не желает проходить через подобные трудности после столь усердной работы над совершенствованием своих продуктов. Однако, по мнению некоторых экспертов, ситуация могла обернуться ценным маркетинговым ходом. Создание продукта, который Белый дом счел слишком мощным, чтобы попасть не в те руки, безусловно, подтверждает высокую эффективность Claude Fable и Mythos.
Большинство поставщиков программного обеспечения тратят огромные маркетинговые бюджеты на поиск историй клиентов, которые могут подтвердить эффективность их продуктов. В данном случае Anthropic* получила «рекламу» от Белого дома, приостановившего экспорт и использование моделей иностранными гражданами на территории США из-за их высокой производительности. Хотя такой вид «маркетинга» не является желательным, особенно когда существует реальный риск снятия с производства флагманского продукта, после этого никто не усомнится в возможностях Anthropic*. Если компания сможет убедить представителей правительства и вернуть Fable на рынок, это станет сильным аргументом в пользу того, почему пользователи могут быть готовы платить за эти модели больше.
* — деятельность компании запрещена на территории РФ
