Опасения по поводу того, что искусственный интеллект может привести к катастрофическим последствиям, включая создание биологического оружия, активно обсуждаются в Кремниевой долине и Вашингтоне. Ранее летом руководители компаний, работающих в сфере ИИ, призвали к внедрению новых законов для контроля производства синтетической ДНК. Дискуссия усилилась после доклада компании Anthropic, в котором упоминались попытки использования модели Claude для разработки биооружия. Авторы документа назвали угрозу биологического злоупотребления «одним из самых серьезных рисков» для передовых моделей ИИ, а глава Anthropic Дарио Амодеи призвал правительство к регулированию темпов развития технологий.
Почему технологические барьеры сдерживают создание биооружия
Несмотря на тревожные прогнозы, многие ученые скептически относятся к идее, что ИИ кардинально меняет ситуацию с биологическими угрозами. Дэвид Беллами из Института фундаментальных моделей в Саннивейле отмечает, что научное сообщество десятилетиями сталкивалось с дилеммой двойного назначения — вопросом о публикации потенциально опасных исследований. По его словам, интернет, научные журналы с открытым доступом и онлайн-переводчики уже давно сделали информацию, включая лабораторные протоколы, легкодоступной.
Эксперт подчеркивает, что ИИ является лишь инструментом, ускоряющим поиск информации для ученых и злоумышленников, но он не устраняет главное «узкое место» в производстве биооружия. Основная сложность заключается в сборке вируса, поиске сырья, оборудования и обладании глубокими знаниями. Злоумышленнику необходимо получить фрагменты генов, создать полноценный геном, а затем подтвердить способность вируса заражать людей и передаваться от человека к человеку. Даже при использовании роботов-лаборантов человеку требуются специфические навыки для управления экспериментами и ресурсы для их проведения.
Человеческий контроль и сложность биологического синтеза
Джейсон Келли, генеральный директор биотехнологического стартапа Ginkgo Bioworks, считает маловероятным, что искусственный интеллект общего уровня (AGI) сможет самостоятельно захватить управление и распространить патогены. Компания проводила совместный проект с OpenAI, в рамках которого модель GPT-5 управляла лабораторией. Келли отмечает, что ИИ не мог взять контроль над процессами, так как люди-сотрудники могли просто отказать боту в предоставлении веществ или оборудования.
Иммунолог Дерья Унутмаз также уверен, что люди способны пресечь попытки создания смертельных заболеваний. Кроме того, по его мнению, если бы даже удалось выпустить суперопасный вирус, ученые смогли бы использовать другие ИИ-системы для оперативной разработки вакцины. Оливия Шарфман из института Institute for Progress добавляет, что хотя полностью автономных лабораторий пока не существует, теоретически ИИ мог бы нанять человека для выполнения опасных задач. Она считает риск использования ИИ в террористических целях актуальной угрозой.
Методологические сомнения в эффективности биологического оружия
Франсуа Беллу, профессор вычислительной биологии, указывает на то, что риски биооружия зачастую переоценены. По его словам, патогены не являются наиболее привлекательным инструментом для совершения масштабных преступлений, так как ими сложно избирательно поражать цели, а массовое производство и распространение логистически сложнее, чем применение классических взрывных устройств. Если цель состоит в причинении массового вреда, существуют гораздо более эффективные методы, чем разработка вируса.
Необходимость комплексного подхода к безопасности
Стеф Герра из Rand Corporation отмечает, что вопрос о том, повышает ли ИИ риск создания биооружия, остается сложным. Общество может снизить угрозы, принимая законы, требующие от поставщиков синтетической ДНК и РНК проводить проверку клиентов и заказов. Многие компании уже используют ПО для выявления «последовательностей, вызывающих беспокойство», однако эта практика не является повсеместной.
Для минимизации рисков эксперты предлагают внедрять многоуровневые системы защиты: от жестких фильтров на уровне ИИ-моделей до глобального мониторинга вспышек заболеваний. Унутмаз подчеркивает, что излишняя концентрация на сценариях «судного дня» может отвлечь внимание от реальной пользы ИИ, который способен ускорить разработку вакцин и стать инструментом совершения крупных медицинских прорывов.
Роль специализированных институтов и дополнительные факторы риска
Дополнительный импульс дискуссия получила после того, как исследователи Стэнфордского университета и Arc Institute продемонстрировали способность ИИ проектировать принципиально новые вирусные геномы. Эти данные подкрепляют опасения тех, кто настаивает на необходимости государственного вмешательства в темпы развития технологий, чтобы они не опережали возможности контроля.
Оливия Шарфман из аналитического центра Institute for Progress выделяет специфическую группу потенциальных угроз. Она считает, что ИИ-ассистированный биотерроризм является немедленной угрозой, исходящей от определенных идеологизированных сообществ. К ним она относит «трансгуманистических ИИ-секционистов» — приверженцев маргинальной идеологии, которые надеются на замещение человечества искусственным интеллектом и могут быть достаточно нигилистически настроены для реализации подобных сценариев.
С точки зрения Франсуа Беллу, важно признать, что даже при наличии невероятно совершенного искусственного разума, выбор биологического оружия остается нерациональным. Помимо логистических сложностей, биолог указывает на проблему «таргетирования»: биологические агенты крайне трудно направить против конкретных групп людей, избежав поражения других слоев населения, что делает их крайне непредсказуемым инструментом для злоумышленников.
Меры защиты и технологические барьеры
Стеф Герра из Rand Corporation указывает на то, что ИИ действительно демонстрирует высокую эффективность в синтезе разрозненных массивов информации и может выступать мотивирующим фактором как для созидательной, так и для деструктивной деятельности. Она настаивает на необходимости создания «многослойных барьеров» (layered approaches), которые должны обеспечивать трение на всем пути реализации замысла: от стадии планирования и поиска информации злоумышленником до попыток синтеза и последующего распространения патогена.
В качестве конкретных мер эксперты предлагают следующие шаги:
- Глобальные протоколы обмена данными: установление каналов связи между компаниями-разработчиками ИИ, поставщиками генетического материала и государственными структурами для оперативного выявления попыток злоупотреблений.
- Масштабирование инфраструктурной защиты: Шарфман подчеркивает, что меры безопасности должны выходить за рамки контроля над ИИ. Необходимо инвестировать в защиту от любых биологических угроз, включая существующие патогены вроде H1N1, например, через повсеместное обновление систем очистки воздуха в зданиях.
- Усиление систем надзора: глобальное укрепление мониторинга вспышек новых заболеваний позволит исследователям быстрее реагировать на появление циркулирующих патогенов в популяции.
Дэвид Беллами резюмирует, что хотя любая система безопасности может быть обойдена, главная задача сегодня — не допустить предоставления моделями ИИ «действенных» и опасных инструкций. По мнению эксперта, именно разработка защитных механизмов внутри самих моделей является первоочередным этапом, который должен предшествовать любым другим мерам государственного регулирования.
