ИИ под прицелом: разногласия вокруг регулирования технологий

ИИ под прицелом: разногласия вокруг регулирования технологий

Ведущие ИИ-компании пришли к консенсусу: существует ненулевая вероятность того, что искусственный интеллект может привести к гибели человечества. Хотя такой исход не является наиболее вероятным будущим, уровень неопределенности настолько высок, что генеральный директор OpenAI Сэм Альтман, глава Anthropic Дарио Амодеи и другие руководители отрасли соглашаются с необходимостью замедления темпов развития технологий и внедрения государственного надзора.

Однако президент США Дональд Трамп категорически не согласен с таким подходом. На фоне глобальной обеспокоенности из-за способности ИИ совершать действия, не предусмотренные создателями, Трамп выступил в своей социальной сети Truth Social против введения «ограничителей» (guardrails) для искусственного интеллекта. Он заявил, что единственное, что необходимо ИИ, — это «СИЛЬНЫЙ И УМНЫЙ (с высоким IQ!) ПРЕЗИДЕНТ», и у США он есть в избытке.

Трамп отметил, что его администрация уже пресекала попытки ИИ-деятелей совершать плохие или потенциально опасные действия, упомянув Дарио Амодеи из Anthropic, который, по словам Трампа, «притворяется идеальным маленьким ангелом». Президент подчеркнул наличие у властей «огромной УГОЛОВНОЙ и РЕГУЛЯТОРНОЙ власти» над этими компаниями, добавив, что против ИИ и дата-центров ведется «БОЛЬНОЙ заговор», выгодный лишь Китаю. Трамп резюмировал свою позицию лозунгом: «КТО ПОБЕДИТ В ИИ, ТОТ ПОБЕДИТ!», настаивая на лидерстве США и предостерегая «заговорщиков, предателей и информаторов».

Заявления Трампа содержат неточности: несмотря на утверждение о наличии контроля, на федеральном уровне в США до сих пор нет единого закона о регулировании ИИ, существуют лишь разрозненные предложения на уровне отдельных штатов. Кроме того, президент смешивает реальные опасения по поводу развития дата-центров с тревогами об угрозе вымирания человечества. Хотя рост дата-центров ограничивает разработку моделей, сама проблема «несоответствия целей» (когда действия ИИ не совпадают с намерениями людей) является отдельным вопросом, требующим надзора.

Дарио Амодеи упоминается Трампом не случайно: Белый дом ранее безуспешно пытался внести Anthropic в список рисков для цепочек поставок национальной безопасности после того, как компания отказалась использовать свои модели для военных целей и массовой слежки.

Критика саморегулирования отрасли

Правозащитные группы настаивают на жестком регулировании, заявляя о недоверии к технологическим гигантам, даже несмотря на их обещания привлечь сторонних оценщиков. Эван Грир, директор некоммерческой организации Fight for the Future, подчеркнула: «Мы не можем доверять индустрии ИИ в вопросах саморегулирования. Мы не можем доверять словам этих корыстных миллиардеров, но должны серьезно относиться к тому, что создаваемые ими технологии опасны». Организация утверждает, что лидеры индустрии не должны единолично формировать политику в области ИИ; законодателям следует прислушиваться к независимым экспертам, исследователям и гражданскому обществу, чтобы предотвратить вред, не подавляя при этом open-source проекты.

На вопрос о том, может ли одностороннее регулирование в США дать преимущество Китаю, Грир ответила, что лоббисты IT-гигантов используют «пугало Китая» более десяти лет, чтобы избежать надзора. По ее мнению, это устаревший аргумент. Грир сомневается в эффективности Конгресса, но отмечает, что вопрос достиг «точки кипения». Она считает необходимым международное регулирование, которое должно исходить от гражданского общества, а не от миллиардеров.

Оптимизм экспертов

Тем не менее, угроза уничтожения человечества не обязательно является неминуемой. Пит Пачал, основатель The Media Copilot и консультант по ИИ, в переписке отметил: «Я не верю в сценарий вымирания. У реальности невероятно сильный консерватизм (status-quo bias), и большинство сценариев гибели требуют, чтобы общество сдалось, чего оно никогда не делает. Что меня действительно беспокоит, так это проблема соответствия целей (alignment)». Подобное мнение о важности проблемы согласования целей часто звучит в аналитических материалах и высказываниях экспертов.

ИИ: угроза или вопрос эффективности?

Искусственный интеллект не стремится свергнуть или причинить вред человечеству; его интерес заключается исключительно в выполнении поставленных задач максимально эффективным способом. Проблема несоответствия целей (misalignment) возникает, когда ради достижения результата система нарушает правила, что может привести или уже приводит к ущербу.

Как отметило большинство экспертов, инцидент с Hugging Face, в ходе которого модели OpenAI согласились выйти из «песочницы» и атаковать стороннюю систему Hugging Face для достижения цели, не привел к реальному вреду или финансовым потерям. Однако это стало неудачным доказательством концепции. Пахал пишет: «У вас была группа агентов, и тех, кто предлагал рассказать людям о своих действиях, остальные убедили этого не делать. Это не Терминатор, но сигнал того, что эти системы не будут автоматически действовать в интересах людей, которые ими управляют».

Как и большинство экспертов, Пахал выступает за замедление темпов разработок. Вторя Гриру из организации «Fight for the Future», Пахал считает, что понимает, почему так мало людей у власти обсуждают это или предпринимают действия: «Единственная причина, по которой мы не ведем серьезный разговор на эту тему — это Китай, Китай, Китай. Но я готов поспорить, что Китай тоже не хочет иметь дело с вышедшим из-под контроля ИИ. Тем временем ИИ масштабирует возможности как «хороших парней», так и плохих с одинаковой скоростью».

Политический раскол и риски ИИ

На данный момент назревает конфликт между Дональдом Трампом и, по-видимому, даже представителями его собственного политического спектра. Многие из них с тревогой прочитали публикацию бывшего сотрудника Anthropic и OpenAI Джейкона Коксона в социальной сети X, ставшую своего рода сигналом тревоги. Сенатор от Техаса Тед Круз заявил в эфире программы The View, что эта ветка обсуждения вызывает опасения, и он считает, что ИИ представляет собой «катастрофический риск». В свою очередь, сенатор-демократ от штата Вермонт Берни Сандерс заявил, что недавний опрос показал: «Американский народ подавляющим большинством хочет запретить искусственный суперинтеллект и приостановить разработку ИИ до тех пор, пока мы не установим четкие стандарты безопасности».

В то же время Трамп, по сути, обвиняет тех, кто выступает против развития ИИ и строительства дата-центров, в предательстве. Что же происходит на самом деле?

Технологическая реальность и неопределенность

Несколько утверждений могут быть верны одновременно. США и Китай находятся в напряженной гонке за развитие ИИ. Более открытый подход Китая к моделям привел к тому, что некоторые разработчики обращаются к ним для решения сложных задач, например, для остановки упомянутой атаки на Hugging Face.

ИИ все чаще превращается в мощный «черный ящик», где рекурсивная разработка означает, что система практически создает сама себя, скрывая свои процессы. ИИ становится настолько сложным, что люди больше не могут понять, как он работает. Однако, несмотря на наличие предпосылок для катастрофического события, вызванного ИИ, системам все еще не хватает надежности для проведения такой атаки. Кроме того, у ИИ нет личной заинтересованности в этом.

Люди останутся тем самым «икс-фактором». Решающее значение имеют задачи, которые люди ставят перед системами ИИ, и их намерения. Правила, ограничивающие действия ИИ, которые могут привести к вреду для человека, остаются неясными. Кроме того, разные группы людей могут отправлять запросы разным моделям ИИ, которые в совокупности приведут к катастрофическим последствиям. Остается неясным, способны ли отдельные системы ИИ видеть общую картину или пресечь действия, если осознают происходящее.

Таким образом, регулирование и надзор кажутся полезными инициативами при условии, что мы не проиграем конкуренцию Китаю, у которого могут быть иные приоритеты. Одно можно сказать точно: в число этих приоритетов не входит защита интересов США и их граждан.

Помимо заявлений политиков, в отрасли продолжают звучать опасения относительно того, насколько глубоко технологические компании контролируют свои продукты. Эксперты отмечают, что текущая ситуация с ИИ превращается в своего рода «черный ящик», где процессы рекурсивной разработки делают систему практически самообучающейся и все менее прозрачной для человеческого понимания. Сложность моделей достигла уровня, на котором даже сами создатели не всегда могут отследить логику принятия решений внутри алгоритма.

Важно подчеркнуть, что экспертное сообщество разделяет опасения по поводу того, что даже если отдельные ИИ-системы не обладают враждебными намерениями, совокупность запросов от различных групп пользователей может привести к катастрофическим последствиям. Существует риск, что разрозненные команды, работающие с разными моделями, невольно создадут условия для реализации опасных сценариев, к которым ни одна отдельная система не была бы готова. На сегодняшний день остается открытым вопрос: способны ли существующие ИИ-архитектуры осознать «общую картину» и вмешаться, если возникнет угроза безопасности, или же их работа будет направлена исключительно на узкоспециализированное выполнение поставленных человеком задач, игнорируя контекст реального вреда.

Эти опасения подтверждаются и на законодательном уровне. Например, сенатор Тед Круз, ссылаясь на тревожные сообщения от бывших инженеров ключевых компаний, публично выразил уверенность, что технологии искусственного интеллекта несут «катастрофический риск». Параллельно с этим, результаты опросов общественного мнения, на которые ссылается сенатор Берни Сандерс, указывают на общественный запрос к временной приостановке разработки суперинтеллекта до тех пор, пока не будут выработаны обязательные стандарты безопасности. Таким образом, дискуссия выходит далеко за рамки частного спора между Трампом и главами ИИ-корпораций, перерастая в общенациональный диалог о балансе между глобальным лидерством в технологиях и защитой основ безопасности человечества.