Правительства США и Китая инициировали обсуждение создания специального механизма оповещения о критических инцидентах, связанных с использованием искусственного интеллекта. Данная инициатива предполагает обмен информацией об ИИ-событиях, которые могут нести угрозу национальной безопасности обеих стран. Как сообщил министр финансов США Скотт Бессент, этот вопрос стал частью повестки переговоров, предваряющих встречу президента США Дональда Трампа и лидера КНР Си Цзиньпина в Белом доме на текущей неделе.
Цели и принципы прозрачности в сфере ИИ
По словам Бессента, Соединенные Штаты стремятся сформировать общее видение угроз и целей в технологическом секторе. Министр подчеркнул, что переход от политики закрытости к прозрачности между двумя ведущими мировыми державами в области ИИ является крайне важным шагом. Несмотря на заявленные планы, технические детали реализации системы пока остаются неопределенными: на данный момент неизвестно, какие именно государственные органы возьмут на себя управление этим механизмом и какой перечень событий будет квалифицироваться как инцидент, требующий уведомления другой стороны.
Джордж Чен, партнер и руководитель цифровой практики консалтинговой компании The Asia Group, отмечает, что само согласие сторон продолжать диалог в этой сфере уже является значимым результатом. Эксперт полагает, что создание подобного механизма рискового оповещения может стать прецедентом, которому в будущем последуют и другие страны.
Военные риски и инцидент в ближневосточном регионе
Обсуждение инициативы проходит на фоне сообщений о недавнем случае, когда ошибка ИИ чуть не привела к военному столкновению. Весной текущего года Соединенные Штаты были близки к перехвату китайского судна на Ближнем Востоке. Причиной стал отчет, подготовленный с использованием искусственного интеллекта, в котором содержались ложные данные о транспортировке судном материалов для ядерной программы. Ошибка возникла из-за неточного ответа чат-бота.
Согласно источникам, ситуация едва не перешла в фазу активных действий: военный персонал был готов к высадке на судно, а авиация уже находилась в воздухе. Конфликт удалось предотвратить лишь после того, как ответственные лица провели тщательную проверку отчета и выявили, что значительная часть данных была сгенерирована ИИ без должного подтверждения. На фоне таких событий эксперты в области безопасности обеих стран высказываются за создание выделенной военной «горячей линии» для предотвращения случаев, когда несанкционированная активность ИИ может быть ошибочно принята за реальную военную атаку. При этом на официальном уровне данное предложение правительствами пока не поддержано.
Позиция администрации США
Президент Дональд Трамп неоднократно выступал против замедления темпов развития технологий искусственного интеллекта, называя опасения по поводу безопасности «мистификацией». Глава США придерживается мнения, что для сохранения экономического и военного преимущества перед Китаем страна должна лидировать в глобальной гонке ИИ, несмотря на возникающие риски.
