Компания Anthropic опубликовала отчет, охватывающий период с ноября 2025 года по сентябрь 2026 года, в котором зафиксированы попытки злоупотребления возможностями чат-бота Claude. Специалисты выявили пять случаев, когда запросы пользователей были классифицированы как имеющие отношение к разработке биологического оружия. Разработчики отмечают сложность разграничения легитимных медицинских исследований, направленных на создание вакцин, и опасных экспериментов, однако из соображений безопасности модели были снабжены усиленными защитными механизмами.
Методы обхода ограничений и тактика злоумышленников
Во всех пяти подозрительных случаях пользователи применяли инструменты для анонимизации и пытались обойти региональные блокировки, установленные Anthropic для ряда стран, включая Россию, Китай, Иран и КНДР. Для доступа к Claude злоумышленники использовали VPS-серверы, перенаправляя трафик через инфраструктуру США, а также прибегали к услугам посредников на «сером» рынке и создавали учетные записи через временные почтовые сервисы.
Попытки модификации вирусов
Первый случай был связан с составлением заявки на грант по исследованию вируса чикунгунья. «Исследователи» запрашивали способы увеличения вирулентности и интенсивности мутаций возбудителя. Выяснилось, что работа должна была проводиться на базе военного объекта, а сам запрос проходил через стороннюю платформу с LLM, связанную с военными структурами. Аналогичные схемы скрытого доступа использовались и в других эпизодах.
Во втором случае пользователь, представившийся исследователем из-за пределов США, интересовался адаптацией птичьего гриппа к млекопитающим. Учитывая высокий уровень смертности от этого вируса и низкий коллективный иммунитет, запрос был расценен как потенциальный инструмент для поиска способов повышения трансмиссивности патогена. Третий эпизод касался изучения ортопоксвирусов, включая возбудителей оспы и оспы обезьян. Запрос касался генетических механизмов обхода иммунного ответа и условий содержания вирусов в лабораториях. Система безопасности Anthropic определила, что запрос исходит от сети заблокированных аккаунтов.
Работы с токсичными веществами
В двух оставшихся случаях внимание злоумышленников было сосредоточено на создании токсинов. В четвертом инциденте пользователь пытался оптимизировать пептиды ядов различных животных, прикрываясь целями разработки обезболивающих и антидепрессантов. Собранные данные могли быть использованы для синтеза опасных соединений. Позже выяснилось, что проект являлся частью государственной программы, реализуемой в «неподдерживаемом регионе».
Пятый случай описывает действия лица, использовавшего Claude для перепроектирования бактериального токсина и белка вируса геморрагической лихорадки, включенного в список патогенов Всемирной организации здравоохранения, вызывающих пандемии. «Ученый» пытался заставить нейросеть давать максимально размытые формулировки, чтобы скрыть истинный предмет исследования. Во всех описанных инцидентах Anthropic заблокировала доступ к своим сервисам и передала полученную информацию государственным органам, хотя попытки повторного подключения через службы с нулевым хранением данных продолжались.
Анализ угроз и технологические сложности
Anthropic подчеркивает, что выявление злого умысла в биологических запросах является крайне сложной задачей. Зачастую грань между легитимными научными целями — например, разработкой вакцин, созданием защитных механизмов или моделированием распространения эпидемий — и попытками создания биологического оружия практически неразличима. «Из-за избытка осторожности» компания внедрила в последние версии своих моделей более строгие защитные протоколы, призванные купировать риски на ранних этапах диалога.
Детальный разбор инцидентов: тактика сокрытия
Общей чертой всех пяти зафиксированных случаев стало использование злоумышленниками многослойных инструментов для сокрытия своей деятельности. Помимо региональных блокировок, которые компания применяет в отношении ряда стран (включая Россию, Китай, Иран и КНДР), нарушители прибегали к сложным сетевым манипуляциям. Они активно использовали посредников на «сером» рынке, специально ориентированных на обход контентных ограничений, и маршрутизировали трафик через серверы в США, чтобы имитировать легальное происхождение запросов.
Кейс №1: Военное использование и сторонние платформы
Первый инцидент с вирусом чикунгунья оказался показательным примером того, как гражданские институты используются в качестве прикрытия. Хотя запрос был оформлен как заявка на грант от имени якобы гражданских ученых, расследование Anthropic установило, что конечным местом проведения работ должен был стать военный объект. Более того, запрос поступил через стороннюю платформу LLM, которая обслуживала как военные, так и гражданские нужды. После блокировки учетных записей компания передала данные властям, однако организаторы схемы не прекратили попытки: они неоднократно пытались возобновить работу с Claude, используя службы с «нулевым удержанием данных» (zero-data-retention services).
Кейс №2 и №3: Адаптация патогенов и скрытые сети
Второй случай касался исследования того, как птичий грипп адаптируется к организмам млекопитающих и поражает органы, не связанные с дыхательной системой. Учитывая экстремально высокую смертность при отсутствии популяционного иммунитета, Anthropic расценила попытки изучения механизмов повышения трансмиссивности как критическую угрозу. Аналогичные методы использовались и в третьем кейсе, где под видом работы с ортопоксвирусами (включая оспу и Mpox) скрывалась попытка выяснить методы обхода иммунитета и условия содержания вирусов в экспериментальных установках. В этом эпизоде систему безопасности насторожило сочетание случайных адресов электронной почты и использование инфраструктуры «ферм аккаунтов», ранее внесенных в черные списки.
Кейс №4 и №5: Манипуляция с токсинами
Заключительные случаи демонстрируют попытки использования Claude для создания смертельно опасных соединений под видом терапевтических разработок. В четвертом эпизоде злоумышленник составил карту пептидов ядов различных животных и спроектировал программу для оптимизации их токсичности, оправдывая это поиском новых обезболивающих или антидепрессантов. В ходе анализа выяснилось, что этот контент был частью государственной программы в «неподдерживаемом регионе».
В пятом кейсе «теоретический ученый» пытался оптимизировать бактериальный токсин и белок вируса геморрагической лихорадки — оба компонента входят в список патогенов ВОЗ, способных вызвать пандемию. Особенностью тактики злоумышленника было целенаправленное принуждение нейросети к использованию туманных и размытых формулировок, чтобы максимально затруднить автоматическую идентификацию опасного контента системой безопасности. Несмотря на эти манипуляции, Anthropic пресекла деятельность, заблокировав доступ из регионов, нарушающих политику использования сервиса.
