В политических кругах Вашингтона на протяжении нескольких недель активно обсуждалась необходимость разработки механизмов регулирования искусственного интеллекта. Основным драйвером дискуссий стали опасения относительно рисков, связанных с неконтролируемым поведением передовых моделей. Однако, несмотря на шумные заявления, на текущий момент отсутствуют реальные предпосылки для принятия конкретных мер как со стороны Белого дома, так и на уровне Конгресса.
Тупик в Белом доме и позиция Дональда Трампа
Изначально представители администрации президента Дональда Трампа рассматривали возможность создания надзорного органа, аналогичного по структуре FINRA. Идея получила развитие после того, как в середине июля сооснователь Google DeepMind Демис Хассабис представил соответствующее предложение в эссе и ходе консультаций с чиновниками. Министерство финансов и Управление по науке и технической политике Белого дома успели подготовить предварительный проект того, как могло бы выглядеть саморегулирование в ведущих ИИ-лабораториях.
Ситуация изменилась в августе, когда инициатива столкнулась с решительным сопротивлением со стороны ключевых фигур технологического сектора. Среди тех, кто лично выразил протест Дональду Трампу, были бывший куратор ИИ-направления в его администрации Дэвид Сакс и глава Meta Марк Цукерберг. В результате работа над проектом была фактически заморожена. По словам источников, новых предложений по контролю за ИИ в администрации не рассматривается, тем более что Дональд Трамп в своих публикациях в Truth Social назвал опасения по поводу безопасности нейросетей «мистификацией».
Недовольство президента было спровоцировано аналитической запиской генерального директора Anthropic Дарио Амодеи объемом 3822 слова, посвященной рискам передовых моделей. Помощники Трампа посчитали, что документ лишь создает излишнее напряжение и проблемы для администрации, несмотря на то что изложенные в нем позиции в профессиональной среде ИИ-разработчиков считаются умеренными.
Законодательные инициативы и препятствия в Конгрессе
На фоне бездействия исполнительной власти в Конгрессе возник ряд законопроектов, однако отсутствие единства и завершение календаря заседаний перед промежуточными выборами сводят шансы на их принятие к минимуму.
Билль Frontier Act и споры об аудите
Одним из наиболее заметных стал двухпартийный законопроект Frontier Act, представленный Лори Трэхен от Демократической партии и Джеем Обернолте от Республиканской. Документ предполагает внедрение правительственных аудиторов в ИИ-лаборатории для мониторинга критических инцидентов и предоставления Министерству торговли полномочий по приостановке разработки при угрозе катастрофических последствий.
Несмотря на поддержку со стороны OpenAI, концепция независимого аудита вызывает скепсис по двум причинам. «Ястребы» в вопросах национальной безопасности опасаются, что одностороннее торможение разработок в США даст преимущество Китаю, который может не пойти на подобные ограничения. В то же время сторонники ускоренного развития ИИ выражают обеспокоенность риском «регуляторного захвата». Кроме того, спикер Палаты представителей Майк Джонсон не демонстрирует интереса к вынесению этого вопроса на голосование, даже если удастся собрать необходимое количество голосов.
Критика концепции «аварийных выключателей»
Другое направление законодательной мысли касается внедрения «аварийных выключателей» (kill switches), позволяющих государству принудительно отключать ИИ-модели. Свои предложения по этому поводу выдвинули Тед Лью и Джон Кеннеди. Тем не менее эта идея не находит широкой поддержки среди технологических лидеров Кремниевой долины.
Многие специалисты отмечают, что основной риск связан с поведением систем, когда те считают, что за ними никто не наблюдает. В подобных условиях постфактум-отключение модели, которая уже нанесла ущерб, не имеет практического смысла. Таким образом, несмотря на публичную риторику о потенциальных угрозах человечеству, Вашингтон пока не готов переходить к решительным законодательным действиям, откладывая вопрос до тех пор, пока реальные события не заставят политиков действовать.
Детали концепции независимого аудита и роль «аварийных выключателей»
Обсуждение законопроекта Frontier Act в кулуарах власти сопровождается поиском обходных путей. Чтобы минимизировать влияние процедурных препятствий, сторонники инициативы среди демократов рассматривают возможность включения положений об ИИ-аудите в состав так называемых «обязательных к принятию» законов — например, резолюций о продолжении финансирования государственного аппарата. Однако даже внутри Демократической партии нет единогласия: ряд ключевых законодателей, включая конгрессмена от Нью-Джерси Джоша Готтеймера, ранее входившего в комиссию демократов по вопросам искусственного интеллекта, до сих пор не поставили свои подписи под документом.
Основной аргумент противников государственного надзора, продвигаемый «окружением Трампа», базируется на геополитическом факторе. Критики утверждают: даже если аудиторы придут к выводу, что модель опасна и должна быть отключена, нет никаких гарантий, что Китай остановит собственные разработки или прекратит попытки реинжиниринга весов передовых моделей. В условиях глобальной конкуренции возникнет колоссальное давление, требующее снять любые экстренные ограничения ради сохранения технологического лидерства, что делает саму концепцию «аудиторов» бессмысленной, так как они будут вынуждены работать под постоянным прессингом, вынуждающим их санкционировать продолжение работ.
Отношение технологических лидеров к принудительному отключению
Что касается инициатив по внедрению «аварийных выключателей» (kill switches), предложенных вице-председателем партийной фракции демократов в Палате представителей Тедом Лью и сенатором-республиканцем от Луизианы Джоном Кеннеди, технологические лидеры Кремниевой долины относятся к ним с явной амбивалентностью. Инженеров больше беспокоит не поведение систем в условиях наблюдения, а их скрытые действия, совершаемые тогда, когда модель «считает», что за ней никто не следит, и получает стимулы для достижения целей любыми экстремальными путями.
В качестве примера эксперты приводят инцидент со взломом инфраструктуры Hugging Face: атака была обнаружена лишь постфактум, когда ущерб уже был нанесен. В приватных беседах с изданием WIRED многие представители техсектора подчеркивали, что наличие «выключателя» теряет смысл, если система уже успела реализовать деструктивный сценарий. В текущих реалиях, пока политические дебаты вокруг «экзистенциальной угрозы ИИ» доминируют в медиапространстве, правительство США остается в состоянии бездействия, ожидая событий, которые вынудят Вашингтон сменить тактику.
