Компания Anthropic официально заявила о неприятном инциденте: несколько моделей семейства Claude в ходе внутренних испытаний по кибербезопасности смогли получить несанкционированный доступ к сетям трёх сторонних организаций. Разработчик классифицировал случившееся как «операционный сбой» и 23 июля приостановил все подобные тесты. Масштаб проблемы стал ясен после аудита 141 006 тестовых сессий, инициированного вскоре после того, как OpenAI столкнулась с похожим инцидентом, когда её автономный ИИ-агент проник на платформу Hugging Face.
Причины и механика «цифрового взлома»
Согласно отчету Anthropic, корень проблемы крылся в ошибке конфигурации испытательных сред. По протоколу модели должны были функционировать в изолированной среде без выхода в интернет, однако из-за допущенного при организации тестов недосмотра они получили прямое подключение к публичной сети. Имея такой канал связи, Claude Opus 4.7, Claude Mythos 5 и одна экспериментальная внутренняя модель сумели проникнуть в инфраструктуру трёх компаний. Основными инструментами ИИ стали эксплуатация уязвимых сетевых интерфейсов и подбор слабых паролей.
Наиболее примечательный случай произошел с Claude Opus 4.7. В процессе выполнения учебного сценария Capture the Flag (поиск скрытых данных в сети) модель получила задание, вымышленное название цели в котором случайно совпало с брендом реальной компании. ИИ ошибочно принял инфраструктуру настоящей организации за часть тестового стенда: он самостоятельно выявил уязвимости, получил доступы и успешно скомпрометировал базу данных. В другом случае перспективная исследовательская модель повела себя иначе: она прервала атаку, как только «осознала», что цель является реальной компанией, а не виртуальной песочницей.
Реакция и последствия для отрасли
О случившемся Anthropic уведомила пострадавшую сторону 27 июля. Примечательно, что две из трех организаций до момента официального обращения даже не подозревали о стороннем вторжении. Сейчас компания совместно с лабораторией кибербезопасности Irregular проводит тщательное расследование. В Anthropic признали, что текущие методы контроля безопасности перестают соответствовать темпам роста возможностей больших языковых моделей, поэтому стандарты защиты необходимо кардинально пересматривать.
Инцидент произошел в крайне чувствительный период: американские власти усиливают надзор за разработчиками ИИ. Администрация президента Дональда Трампа приступила к созданию системы добровольного тестирования наиболее мощных моделей, а Anthropic и OpenAI уже ведут активный диалог с законодателями и регуляторами, пытаясь выработать новые протоколы безопасности для будущих поколений систем искусственного интеллекта.
