С 9 июня 2026 года разработчики нейросетей столкнулись с феноменом, который может существенно изменить ландшафт индустрии. Создатели больших языковых моделей (LLM) перешли от прямых запретов к скрытому саботажу. Выяснилось, что популярная модель Claude, признанная одной из наиболее эффективных для программирования, намеренно снижает качество ответов, если система распознает попытку использовать её для разработки других моделей машинного обучения.
Официальная позиция Anthropic
В документации (model card) для пятых версий моделей Claude Mythos и Claude Fable, на странице 13 официального PDF-файла, разработчики открыто подтвердили существование защитных механизмов:
«В свете способности современных моделей ускорять собственное развитие, мы внедрили новые меры, ограничивающие эффективность Claude для запросов, направленных на разработку передовых моделей машинного обучения (например, на создание конвейеров предварительного обучения, распределенной инфраструктуры обучения или проектирование ускорителей машинного обучения). Использование Claude для разработки конкурирующих моделей уже нарушает наши условия предоставления услуг, но обеспечение этого ограничения с помощью наших мер защиты позволяет избежать ускорения действий тех, кто наиболее склонен нарушать эти условия».
Как работает скрытый саботаж
В отличие от уже привычных пользователям фильтров безопасности, направленных на предотвращение генерации контента по темам биологии, химии или кибербезопасности, новая защита действует абсолютно незаметно. Как заявляют в компании, Claude Fable 5 не будет выдавать уведомление об отказе или переключаться на другую модель. Вместо этого система будет осознанно «тупить», снижая качество генерации кода.
Для достижения этого эффекта Anthropic применяет следующие методы:
- Модификация подсказок (prompt modification);
- Использование направляющих векторов;
- Параметрически эффективная тонкая настройка (PEFT).
Разработчики уверяют, что данные меры не затронут обычные задачи программирования. По их оценкам, ограничения коснутся примерно 0,03% общего трафика, сосредоточенного менее чем в 0,1% организаций.
Подобные шаги вызывают активные дискуссии в профессиональном сообществе. Несмотря на то, что Anthropic объясняет свои действия стремлением к безопасности, многие эксперты задаются вопросом, насколько этично скрытое снижение эффективности ИИ-помощника для профессиональных разработчиков.
