Решение Министерства торговли США ввести экспортные ограничения на нейросеть Anthropic Fable 5 вызвало серьезный раскол в сообществе специалистов по кибербезопасности. Значительная часть экспертов утверждает, что модель не обладает уникальными атакующими способностями, которые могли бы оправдать подобные жесткие меры.
Ограничения были наложены администрацией США после появления отчетов о попытках «джейлбрейка» модели вскоре после её релиза. Регуляторы опасаются, что если внутренние исследователи смогли преодолеть защитные барьеры, то аналогичные методы могут быть использованы иностранными спецслужбами или киберпреступниками. В ответ компания Anthropic была вынуждена временно ограничить доступ к Fable 5 для некоторых групп пользователей, параллельно пытаясь оспорить решение властей.
Однако, по мнению независимых аналитиков, результаты тестов не выходят за рамки обычного использования мощных языковых моделей. Специалисты отмечают, что зафиксированные случаи — это не «взлом», а сложные многошаговые запросы, которые обычно применяются при тестировании систем на устойчивость к уязвимостям.
Известный эксперт по кибербезопасности Кэти Муссурис пояснила, что в ходе исследований модели Anthropic (включая Fable 5, Mythos и Claude Opus) тестировались на предмет анализа уязвимостей в открытом программном коде. Хотя Fable 5 поначалу отказывалась выполнять специфические команды, исследователям удалось добиться генерации скриптов для проверки патчей с помощью цепочки уточняющих запросов.
Муссурис подчеркнула, что подобные действия являются стандартной практикой «белых хакеров»: ИИ помогает находить ошибки и проверять исправления, что делает его инструментом защиты, а не угрозой. Ряд экспертов в открытом обращении к правительству США отметили, что аналогичные возможности присутствуют у большинства моделей от OpenAI и других разработчиков. По их мнению, уровень «джейлбрейка» Fable 5 полностью соответствует рыночным стандартам и не является экстраординарным.
Проблемы регулирования отрасли
Критики решения указывают на отсутствие прозрачности в подходах Министерства торговли. По их словам, ограничения вводятся без четкой методологии оценки рисков и без сравнения с другими коммерческими продуктами. Сенатор Марк Уорнер также высказался за создание формализованной системы оценки, призвав Конгресс разработать единые правила, чтобы исключить политизированные решения и обеспечить предсказуемость для бизнеса.
Согласно внутренней документации Anthropic, модель Fable 5 прошла более 1000 часов тщательного тестирования, в ходе которого не было обнаружено универсальных способов обхода систем безопасности. В конечном счете, ситуация с Fable 5 высветила главную проблему: в индустрии до сих пор отсутствуют объективные критерии, позволяющие отделить исследовательскую работу от реальной угрозы национальной безопасности.
