Компания Anthropic выпустила доклад, в котором проанализировала случаи злоупотребления своими моделями искусственного интеллекта. Согласно опубликованным данным, специалисты организации выявили и заблокировали нескольких ученых, пытавшихся использовать ИИ-инструменты, в том числе языковую модель Claude, для разработки потенциального биологического оружия. Как отмечает компания, по мере развития таких систем, как Fable 5, их возможности в научной сфере значительно расширяются, что требует усиленного контроля.
Особенности выявления потенциальных угроз
В отчете представлено пять подробных тематических исследований, демонстрирующих попытки использования ИИ для создания биологических угроз, а также меры безопасности, позволившие своевременно обнаружить такие действия. Руководитель отдела анализа угроз Anthropic Джейкоб Кляйн подчеркнул сложность ситуации, отметив, что зачастую намерения пользователей не являются очевидно злонамеренными.
В беседе с The New York Times представители компании пояснили, что отличить законные исследования, например, разработку новой вакцины, от создания биологического оружия бывает крайне затруднительно. В связи с этим Anthropic предпочитает придерживаться стратегии повышенной осторожности. Кляйн добавил, что в реальности исследователи не заявляют о желании создать оружие для массовых убийств, поэтому процесс классификации запросов носит исключительно тонкий и нюансированный характер.
Конкретные примеры неправомерного использования Claude
Одним из зафиксированных в мае случаев стало обращение пользователя к Claude с просьбой составить заявку на грант для проведения исследований с «приобретением функций» (gain-of-function) вируса чикунгунья. Данный вирус не имеет лицензированного лечения и способен вызывать изнурительные симптомы, сохраняющиеся на протяжении нескольких месяцев. Предложенный проект предполагал повышение трансмиссивности вируса и его способности уклоняться от иммунного ответа. Опасения Anthropic усилил тот факт, что заявка была связана с военным научно-исследовательским институтом.
Аналогичные меры были приняты в отношении попыток проведения исследований «приобретения функций» вируса птичьего гриппа. В другом эпизоде исследователь пытался использовать Claude для разработки атласа пептидов токсинов яда и формирования генеративного конвейера для оптимизации характеристик токсинов.
Меры реагирования и дальнейшая стратегия
Помимо биологических угроз, полный отчет Anthropic включает кейсы, связанные с использованием моделей компании для создания программных эксплойтов, разработки систем вооружений, пропаганды, а также в качестве инструмента для ведения слежки. В каждом подтвержденном случае злоупотребления учетные записи нарушителей были заблокированы, а полученные данные направлены на совершенствование защитных механизмов ИИ.
Anthropic приняла решение не раскрывать имена ученых или названия организаций, участвовавших в этих инцидентах. Компания подчеркнула, что речь идет о действующих профессионалах, и заявила: «Мы не утверждаем, что они намеревались причинить вред, а идентификация этих лиц или их лабораторий может подвергнуть их самих опасности».
