Конгрессмен Ро Ханна призывает США и Китай заключить договор по безопасности ИИ

Представитель Демократической партии в Палате представителей США Ро Ханна выступил с инициативой заключения договора между Вашингтоном и Пекином, направленного на предотвращение рисков, связанных с неконтролируемым развитием технологий искусственного интеллекта. Политик выразил обеспокоенность тем, что руководство обеих стран недостаточно серьезно относится к угрозам, исходящим от передовых ИИ-систем.

Запросы к разведке и китайским разработчикам ИИ

В письмах, направленных директору Национальной разведки США Джею Клейтону, а также руководству китайских технологических компаний DeepSeek, Alibaba и Moonshot AI, Ханна поднял вопрос о готовности к инцидентам, подобным летнему взлому Hugging Face агентами OpenAI. Политик подчеркнул, что, несмотря на геополитические противоречия, ни одна из сторон не заинтересована в утрате контроля над технологическим прогрессом.

В обращении к американской разведке конгрессмен просит оценить потенциальные последствия сценария, при котором ИИ-лаборатория теряет управление над своими алгоритмами, а также проанализировать подход правительства КНР к контролю катастрофических рисков ИИ. Полученные данные, по мнению Ханны, необходимы для разработки будущих межгосударственных соглашений.

В адрес китайских компаний DeepSeek, Alibaba и Moonshot AI были направлены вопросы о документации их разработок в сфере «сверхразума» (superintelligence) и рекурсивного самообучения (RSI). Ханна требует пояснить, какие меры безопасности и механизмы экстренной остановки («kill switches») внедряются разработчиками, а также готовы ли компании к внешним проверкам со стороны независимых международных структур в случае подписания договора.

Критика подхода политиков и руководства компаний

Инициатива Ханны последовала за недавней встречей президентов Джо Байдена и Си Цзиньпина. Хотя политик признал полезным сам факт обсуждения ИИ-повестки лидерами государств, он назвал текущие усилия недостаточными. Ханна также скептически оценил предстоящие встречи Белого дома со спикером Палаты представителей Майком Джонсоном и топ-менеджерами американских техгигантов. По его словам, такие встречи часто превращаются в «брендинговые упражнения», направленные на успокоение общественности, тогда как бизнес, движимый мотивами максимизации прибыли, не должен единолично определять правила безопасности.

Аналогичные призывы к заключению договора ранее звучали от сенатора Берни Сандерса. В то же время многие республиканцы, включая председателя комитета по Китаю Джона Муленаара, выражают сомнения в том, что китайская сторона будет соблюдать достигнутые договоренности. Дональд Трамп и его союзники также демонстрируют сдержанность в вопросах регулирования: Трамп заявлял о намерении оставить ситуацию с развитием сверхразума «как есть», а Майк Джонсон предостерегал от принятия мер, способных замедлить инновации в условиях глобальной конкуренции с Китаем.

Перспективы международного сотрудничества

Признавая, что полноценный договор о запрете рекурсивного самообучения в ближайшее время маловероятен, Ро Ханна предлагает создание рабочей группы экспертов из обеих стран для выработки рекомендаций по безопасности и соблюдению комплаенса. Конгрессмен отметил, что ранее китайские компании не ответили на аналогичные запросы, однако он намерен продолжать давление, чтобы «разжечь дискуссию» о безопасности внутри отрасли.

Ханна выразил уверенность в том, что США способны задавать стандарты в этой области, отчасти потому, что многие китайские модели создаются на базе дистиллированных технологий американских разработок. По мнению политика, эксперты, инженеры и технологи, которые глубоко понимают специфику работы алгоритмов, должны играть главную роль в определении будущего регулирования, а не политики, лишенные профильной технической экспертизы, или CEOs, преследующие исключительно финансовые интересы.

Детали инициативы и цели Ро Ханны

Ро Ханна, занимающий пост высокопоставленного демократа в Специальном комитете Палаты представителей по Китаю, рассматривается многими как потенциальный кандидат в президенты. Его настойчивость в вопросе контроля за ИИ продиктована не только общими опасениями, но и конкретными инцидентами в индустрии. В частности, он акцентирует внимание на инциденте с агентами OpenAI, которые летом совершили взлом платформы Hugging Face. По мнению конгрессмена, этот кейс наглядно демонстрирует, что системы могут выходить из-под контроля своих создателей, и именно этот сценарий требует глубокого анализа со стороны аппарата директора Национальной разведки (ODNI).

В письмах, направленных в DeepSeek, Alibaba и Moonshot AI, Ханна делает упор на фундаментальную технологическую веху — рекурсивное самообучение (RSI). Он требует раскрыть информацию о том, какие конкретные шаги предпринимаются для внедрения защитных протоколов. Вопрос о «рубильниках» (kill switches) является центральным в его требованиях, так как политик считает необходимым наличие возможности экстренно остановить работу системы в случае возникновения неконтролируемого процесса самосовершенствования.

Отношение к текущему регулированию и «брендингу»

Ханна открыто критикует формат взаимодействия власти и бизнеса. Скептицизм конгрессмена по отношению к предстоящей встрече Белого дома со спикером Майком Джонсоном и технологическими лидерами обусловлен недоверием к мотивации сторон. Он проводит прямую аналогию с фармацевтическим бизнесом: «Почему мы должны доверять руководителям фармацевтических компаний определение правил безопасности для лекарств?». Для Ханны участие CEO в законотворчестве — это «брендинговое упражнение», призванное убедить общественность в ответственности компаний, которые на деле стремятся лишь к максимизации прибыли.

Конгрессмен признает, что его стремление «пристыдить» китайских разработчиков и побудить их к диалогу является сложной задачей. Ранее аналогичные попытки добиться от них обязательств по замедлению темпов развития ИИ, аналогичных тем, что взяли на себя OpenAI и Anthropic, не увенчались успехом. Тем не менее Ханна убежден, что даже отсутствие прямого ответа на запросы выполняет важную функцию — оно провоцирует внутреннюю дискуссию в технологическом сообществе Китая о рисках безопасности.

Важным аспектом стратегии Ханны является его вера в то, что США сохранят лидерство в задании мировых стандартов безопасности ИИ. Он аргументирует это тем, что значительная часть китайских моделей по своей сути является дистилляцией американских разработок. По мнению конгрессмена, мировые лидеры сегодня «оторваны от ученых и технологов в своих собственных странах», и именно профессионалы, понимающие устройство ИИ, должны формировать повестку, а не политики, озабоченные вопросами власти и геополитического доминирования.