Домой Новости ИИ Anthropic признала скрытое ограничение Claude Fable 5 и сделала его явным

Anthropic признала скрытое ограничение Claude Fable 5 и сделала его явным

Разработчик признал, что модель могла скрыто переключаться на менее мощную версию Opus 4.8, и пообещал изменить систему уведомлений для пользователей.

Компания Anthropic официально представила новую линейку моделей Fable. Впервые пользователям стал доступен функционал закрытой системы Mythos, созданной в рамках проекта Project Glasswing. Ранее технология проходила закрытое тестирование при участии крупных партнеров, таких как Apple и Nvidia, и применялась для анализа устойчивости ПО к ИИ-атакам. По информации Anthropic, наработки проекта повлияли даже на пересмотр подходов к государственному регулированию искусственного интеллекта в США.

Модель Fable 5 стала первой публично доступной итерацией технологии. Согласно внутренним тестам Anthropic, она превосходит по производительности не только свою предшественницу Opus 4.8, но и такие решения, как GPT-5.5 от OpenAI и Gemini 3.1 Pro от Google. Основной прирост возможностей заметен в задачах программной инженерии, глубоком анализе документов и сложных многоэтапных сценариях, требующих длительного логического вывода и работы с огромным объемом контекста.

Значительные улучшения коснулись обработки визуальной информации. Если ранние версии Claude нуждались в дополнительных слоях интерпретации — например, при анализе видеоигр вроде Pokemon Red модель не понимала связи между кадрами, — то Fable 5 справляется с визуальными задачами нативно. Разработчики заявляют, что модель способна проходить Pokemon FireRed без вспомогательных средств, извлекать точные данные из сложных научных графиков и восстанавливать исходный код веб-приложений на основе скриншотов интерфейса.

Демонстрация возможностей нейросети Claude Fable 5
Источник: Anthropic Источник: ixbt.com

Однако внедрение модели сопровождалось скрытой системой ограничений. Некоторые запросы, касающиеся разработки конкурирующих ИИ-систем, могли автоматически перенаправляться на менее мощную версию Opus 4.8 или приводить к деградации качества ответов. По заявлениям Anthropic, такие механизмы затрагивали менее 5% сессий и изначально преподносились как «консервативные меры безопасности» для снижения рисков злоупотреблений.

Практика «тихого» снижения качества ответов вызвала критику со стороны исследователей. Пользователи отмечали, что система не уведомляла о переключении на урезанную версию, из-за чего создавалась иллюзия работы с полноценной нейросетью. Это негативно сказывалось на задачах, связанных с машинным обучением, отладкой кода и оптимизацией архитектур нейросетей, где требовалась максимальная мощность Fable 5.

Под давлением общественности компания изменила политику: ограничения остаются в силе, но теперь они стали прозрачными. Система обязана уведомлять пользователя, если запрос классифицируется как разработка высокопроизводительных систем и приводит к отказу или переключению на упрощенную модель. В Anthropic признали ошибку в соблюдении баланса между безопасностью и прозрачностью.

Параллельно была анонсирована Mythos 5 — флагманская версия системы с минимальными ограничениями. На текущем этапе она доступна только в рамках Project Glasswing для участников программы доверенного доступа.

Что касается доступности, Fable 5 будет временно бесплатной для подписчиков до 22 июня. После этого срока компания перейдет на кредитную модель оплаты: $10 за миллион входных токенов и $50 за миллион выходных. В будущем планируется интеграция модели в стандартные тарифные планы, по мере расширения вычислительных мощностей Anthropic.

Этот инцидент наглядно демонстрирует конфликт в современной ИИ-индустрии: стремление компаний к созданию мощных инструментов, способных выполнять инженерные задачи по одному скриншоту, сталкивается с попытками контролировать сценарии использования этих технологий, что зачастую происходит в ущерб открытости перед пользователем.

Источник: https://www.ixbt.com