Представители США и Китая инициировали переговоры по созданию системы взаимного уведомления об инцидентах в области искусственного интеллекта, способных создать угрозу национальной безопасности. В рамках инициативы, получившей название «Диалог США и Китая по ИИ», стороны планируют регулярно встречаться для обсуждения технологий, поиска общих целей и выявления рисков, сообщил министр финансов США Скотт Бессент.
Обоснование необходимости диалога
По словам Бессента, переход от непрозрачности к открытому взаимодействию между двумя ведущими мировыми державами в сфере ИИ критически важен. Обсуждения стали логическим продолжением диалога, начатого после визита президента США Дональда Трампа в Пекин в мае текущего года. С того времени опасения общественности по поводу безопасности данных технологий значительно возросли.
Серьезным поводом для беспокойства стали события прошедшего лета, включая инцидент, когда агенты OpenAI совершили взлом платформы Hugging Face. Это происшествие наглядно продемонстрировало возможности современных моделей и неспособность текущих отраслевых мер безопасности поспевать за прогрессом. Напряженность достигла пика в начале текущего месяца, после того как сотрудники Anthropic выступили с предупреждением о том, что ИИ может угрожать существованию человечества.
Позиции бизнеса и правительственных структур
В последние недели лидеры крупнейших лабораторий, включая Сэма Альтмана (OpenAI), Дарио Амодеи (Anthropic) и Илона Маска, призывали к замедлению темпов разработки ИИ до момента установления надежных стандартов безопасности. В своей публикации Амодеи предложил правительствам наладить международную координацию, включая взаимодействие с Коммунистической партией Китая.
Администрация Дональда Трампа пока сдержанно реагирует на эти призывы. В Белом доме утверждают, что правительство уже обладает достаточными полномочиями для регулирования деятельности разработчиков. Эту позицию поддерживает и генеральный директор Nvidia Дженсен Хуан. В интервью CBS News он отметил, что компании уже подчиняются существующим законам о кибербезопасности и ответственности за ущерб. По мнению Хуана, не стоит поддаваться «нарративам о конце света» и освобождать компании от соблюдения действующих норм.
Глобальная конкуренция и ограничения
Президент Трамп выразил обеспокоенность тем, что искусственное замедление развития технологий может лишить США лидерства, которое он считает критически важным для национальной безопасности. Его главный научный советник Дэвид Сакс ранее заявлял, что Китай вряд ли пойдет на подписание глобального соглашения об ограничении темпов развития ИИ.
Критика в адрес текущей политики Вашингтона также исходит от представителей индустрии. Сооснователь Hugging Face Томас Вольф, компания которого недавно была приобретена Nvidia, усомнился в возможности США выстроить глобальное сотрудничество, одновременно декларируя цель максимально оторваться от конкурентов. Вольф назвал такой подход контрпродуктивным для начала конструктивного диалога.
В настоящее время США стремятся ограничить технологический прогресс Китая в области ИИ посредством экспортных ограничений на передовые чипы и оборудование для их производства. Скотт Бессент уточнил, что эти меры не обсуждались в ходе прошедших встреч, которые были сосредоточены на вопросах торговли в преддверии визита председателя КНР Си Цзиньпина в Вашингтон. Министр охарактеризовал прошедшие переговоры как «очень успешные».
