В начале текущей недели представители индустрии искусственного интеллекта демонстрировали предварительную готовность к обсуждению государственного регулирования. Генеральный директор Anthropic Дарио Амодей предложил трехэтапный план замедления разработки ИИ, включающий внедрение сторонних оценщиков в лаборатории, координацию внутри отрасли и заключение международных соглашений при поддержке правительств. Эту инициативу в разной степени поддержали глава OpenAI Сэм Альтман, сооснователь Google DeepMind Демис Хассабис и генеральный директор SpaceX Илон Маск.
Разногласия среди лидеров индустрии ИИ
Несмотря на публичные дискуссии о создании отраслевых рамок безопасности, единства среди ключевых игроков нет. Компании OpenAI и Anthropic ранее намекали на работу над внутренними стандартами. По мнению экспертов, такая позиция могла быть обусловлена как маркетинговой стратегией, так и попыткой смягчить последствия участившихся инцидентов со взломом систем. Однако другие участники рынка выступили с критикой ограничения автономии компаний.
Согласно отчету Wall Street Journal, Марк Цукерберг (Meta), Илон Маск (SpaceX) и Дженсен Хуанг (Nvidia) выступили против предложений о создании независимого отраслевого регулятора по образцу FINRA, который работает в финансовой сфере. Марк Цукерберг подчеркнул, что каждая лаборатория несет ответственность за безопасное обучение своих моделей и должна самостоятельно принимать необходимые меры, не прибегая к замедлению темпов развития.
Тем не менее, в OpenAI не отказываются от идеи внешнего контроля. Крис Лехейн, глава по глобальным вопросам OpenAI, заявил, что обществу нужны гарантии безопасной разработки ИИ. По его словам, это начинается с внутренних инициатив компаний, но роль государства также важна. Лехейн отметил рост двухпартийной поддержки обязательных национальных стандартов безопасности, что, по мнению компании, должно способствовать инновациям и сохранению лидерства США.
Позиция администрации Трампа и угрозы регулирования
На данный момент прямое государственное вмешательство в процессы регулирования ИИ выглядит маловероятным. Президент США публично назвал опасения по поводу экзистенциальных рисков ИИ «мистификацией». В социальных сетях он заявил, что единственные «ограждения», необходимые искусственному интеллекту, — это наличие «сильного и умного президента». Трамп утверждает, что администрация уже использует имеющиеся полномочия для предотвращения угроз, связанных с технологиями.
Ник Риз, адъюнкт-профессор Нью-Йоркского университета и бывший директор по политике в области новых технологий Министерства внутренней безопасности, отмечает противоречивость текущей риторики. В период первой администрации Трампа был подписан Исполнительный указ 13960, который устанавливал принципы федерального использования ИИ для защиты гражданских прав и свобод. Риз подчеркивает, что позиция президента существенно изменилась, однако вопросы безопасности требуют системного подхода, выходящего за рамки личных взглядов одного чиновника.
Будущее контроля над технологиями
Зви Мошовиц, эксперт в области политики ИИ, считает, что действия администрации зависят скорее от «настроений», чем от последовательной стратегии. Хотя власти официально не исключают введение мер, они могут значительно отличаться от тех моделей, которые предлагают крупные компании вроде OpenAI или Anthropic.
Одной из ключевых проблем эксперты называют искаженное восприятие рисков. Ник Риз отмечает, что обсуждение зачастую сводится к сценариям «восстания машин», тогда как в реальности уже сейчас существуют системы ИИ, способные причинить вред без физического воплощения в роботах. По мнению Риза, аргумент о том, что регулирование вредит инновациям, является устаревшим.
«Мы регулируем сферы, где недопустимы сбои, такие как авиация или финансовый сектор, — поясняет Риз. — Мы создаем системы контроля и проверки, чтобы технологии не угрожали жизни. Однако почему-то ИИ пытаются вывести из-под этого правила». В условиях растущего общественного давления из-за концентрации власти в руках нескольких корпораций, дискуссии о необходимости установления жестких стандартов будут продолжаться.
Детали отраслевого плана и позиция «нейтральных» компаний
Важно отметить, что конкретика плана Дарио Амодея включала не просто общие призывы, а вполне осязаемые механизмы: координацию деятельности внутри отрасли и привлечение правительственного ресурса для обеспечения международных соглашений. При этом в самой компании Anthropic отказались от официальных комментариев для прессы по текущей ситуации. Амодей в своем эссе ранее подчеркивал, что компания всегда выступала за хорошо продуманное регулирование, даже если это провоцировало обвинения в «думеризме» (паникерстве) или тактике «регуляторного захвата» рынка.
В то же время, другие влиятельные игроки предпочли сохранить молчание. Компании Safe Superintelligence Inc., SpaceX и Google не ответили на запросы о комментариях по поводу текущих споров. Аналогичную позицию заняли в Thinking Machines Lab, отказавшись от высказываний.
Сторонники идеи регулирования внутри индустрии все же не оставляют попыток продвинуть концепцию, подобную FINRA (частного некоммерческого регулятора в финансовом секторе). В пользу необходимости регулирования высказываются и представители венчурного капитала. Один из инвесторов в ИИ-стартапы, пожелавший остаться анонимным, провел историческую параллель: «Такие моменты случаются с каждой технологией — будь то электричество, автомобили или авиация. В определенный момент индустрия должна объединиться, чтобы решить, что означает «безопасность». Автомобили и самолеты изначально были небезопасны, но внедрение стандартов сделало эти технологии массовыми. Ранние этапы всегда выглядят хаотично, и это нормальный путь развития технологий».
Реакция администрации Трампа: риторика и противоречия
Помимо заявлений о «мистификации», президент Трамп активно демонстрирует свое отношение к индустрии через действия и резкие высказывания. В частности, он звонил Дженсену Хуангу прямо во время его выступления на конференции, чтобы через громкую связь заявить аудитории: «Роботы не захватят власть». В своих социальных сетях Трамп также упоминал, что администрация уже пресекает действия людей, использующих ИИ во вред, опираясь на имеющуюся «огромную криминальную и регуляторную власть» над компаниями.
Трамп активно выступает против тех, кого он называет «теоретиками заговора» и «предателями», утверждая, что существует некий «болезненный заговор» против центров обработки данных и индустрии ИИ. Он убежден, что тот, кто победит в гонке ИИ, в конечном итоге победит во всем.
Ник Риз, анализируя ситуацию, отмечает, что нынешняя риторика Белого дома о «восстании машин» уводит дискуссию в сторону от реальных проблем. «Мы фокусируемся на сценариях конца света, но это искажает суть: мы имеем дело с ИИ, который не воплощен в роботе, но уже сейчас причиняет вред людям», — подчеркивает эксперт. Риз добавляет, что, несмотря на громогласные заявления президента о наличии власти над лабораториями, на данный момент у государства нет достаточных полномочий для полноценного регулирования индустрии.
Регулирование как инструмент безопасности, а не преграда
Зви Мошовиц, блогер и эксперт по политике ИИ, считает, что действия Трампа продиктованы скорее интуитивными «вайбами», нежели последовательной политикой. Тем не менее, Трамп уже вводил ограничения для передовых лабораторий, включая обязательное предрелизное тестирование систем правительством. Это свидетельствует о том, что правительственные барьеры не исключены полностью, однако их форма может сильно отличаться от того, что ожидают OpenAI или Anthropic.
Общее состояние политики администрации в этой сфере Риз характеризует как «шаткое и непоследовательное». Однако он настаивает на необходимости изменения парадигмы мышления: «Мы регулируем вещи, в которых не допускаем сбоев, — например, авиацию. Мы выстраиваем механизмы защиты, чтобы системы не вредили жизни. Почему-то ИИ мы пытаемся исключить из этого правила, прикрываясь устаревшим догматом о том, что регулирование вредит инновациям». Ожидается, что давление со стороны общественности, протесты и недовольство концентрацией власти в руках узкого круга лиц в ближайшем будущем могут вынудить администрацию скорректировать свою позицию в сторону более системного подхода.
