Дебаты вокруг безопасности ИИ и перспективы замедления отрасли
В технологической индустрии разгорелась серьезная дискуссия о безопасности искусственного интеллекта и потенциальном замедлении темпов его разработки. Генеральный директор Anthropic Дарио Амодеи недавно опубликовал план под названием «pace the frontier» (сдержать границы), в то время как глава Nvidia Дженсен Хуанг публично поддержал позицию президента Дональда Трампа, назвав негативную реакцию на ИИ обманом, а регулирование — излишним.
В последнем эпизоде подкаста TechCrunch «Equity» ведущие Кирстен Коросек, Шон О’Кейн и Энтони Ха обсудили, насколько искренни намерения таких руководителей, как Дарио Амодеи и глава OpenAI Сэм Альтман, действительно замедлить развитие технологий. Энтони Ха выразил удивление тем, насколько быстро многие лидеры отрасли поддержали инициативу Амодеи, однако Шон О’Кейн подчеркнул, что в самом плане не хватает конкретики.
Аргументы о регулировании и рыночных механизмах
Когда Кирстен Коросек подняла вопрос о том, могут ли существующее регулирование и механизмы свободного рынка обеспечить достаточную защиту, Шон О’Кейн выразил сомнение. По его словам, текущее федеральное правительство не проявляет готовности к масштабному или даже узкоспециализированному регулированию. Более того, он аргументировал это тем, что на данном рынке практически отсутствует фактор потребительского выбора: если компания совершит серьезную ошибку, это не приведет к существенному оттоку пользователей.
Реальность «сдерживания границ»
В ходе дискуссии Шон О’Кейн отметил, что концепция «сдерживания границ» кажется ему лишь красивой фразой, характерной для калифорнийского стиля общения. О’Кейн утверждает, что не ожидает замедления отрасли, так как структуры этих компаний не приспособлены для подобных процессов. Несмотря на заявления Амодеи, Альтмана и частично Илона Маска, О’Кейн настаивает: до сих пор нет четких определений того, что именно подразумевается под замедлением, как и нет ясности относительно рисков, на которые ссылаются лидеры индустрии.
Энтони Ха, в свою очередь, отметил, что сплоченность индустрии вокруг этого плана вызывает у него скепсис в отношении того, являются ли данные шаги искренними мерами по замедлению. По его наблюдениям, эти идеи долгое время обсуждались в сообществе безопасности ИИ и не являются личной разработкой Амодеи. Быстрая готовность многих лидеров принять эту повестку, по мнению Ха, может быть как обнадеживающим признаком консенсуса, так и поводом для сомнений в его подлинности.
Роль независимых оценщиков и позиция Nvidia
Кирстен Коросек напомнила, что консенсус может быть как благом, так и зачатком картельного сговора. Она подчеркнула, что речь идет об узкой группе компаний — так называемых «лабораториях ИИ передового уровня». Суть обсуждаемых предложений заключается в привлечении сторонних независимых оценщиков для работы внутри компаний уровня Anthropic или OpenAI с целью контроля безопасности и инцидентов. Также обсуждается координация стандартов безопасности между крупными ИИ-компаниями в демократических странах и международное взаимодействие.
Коросек также отметила значительный отпор этой инициативе со стороны ключевых фигур. Ярким примером стала позиция главы Nvidia Дженсена Хуанга, который выступил с резкой критикой и публично прокомментировал свои контакты с президентом Трампом во время саммита «All-In». Шон О’Кейн предположил, что Хуанг понимает свою роль в качестве «взрослого в комнате», и эта динамика в отношениях внутри отрасли заметно изменилась.
Смена парадигмы: от Microsoft к Nvidia в роли «взрослого в комнате»
Если проанализировать ситуацию двухлетней давности, когда компании, занимающиеся искусственным интеллектом, начали стремительно расти, многие указали бы на Microsoft и Сатью Наделлу как на главных игроков. Однако сегодня кажется, что Microsoft утратила статус «взрослого в комнате» по ряду причин. Это произошло, в частности, из-за того, что обещание Наделла «заставить Google танцевать» так и не было выполнено; во многом ситуация сложилась с точностью до наоборот.
В текущих реалиях Дженсен Хуанг не только стремится говорить максимально взвешенно, чтобы угодить большинству, но и выступает в качестве одного из наиболее эффективных связующих звеньев между индустрией и действующей администрацией президента. Показательным моментом стал телефонный звонок от президента США, раздавшийся прямо во время выступления Хуанга на крупной профильной конференции, что позволило обоим отреагировать на текущую неопределенность.
Критика влияния и интересов
Хотя Хуанг действительно находится в положении, позволяющем быть связующим звеном, его недавнее выступление выглядело постановочным и продемонстрировало, что Nvidia получает огромную выгоду от стремительного и неконтролируемого развития ИИ. Существует мнение, что интересы Дональда Трампа и Дженсена Хуанга совпадают, а сам глава Nvidia говорит президенту именно то, что тот хочет услышать.
Особого внимания заслуживает тезис Хуанга о том, что «замедления не будет». Примечательно, что такие фигуры, как Сэм Альтман и Дарио Амодеи, избегают слова «замедление», предпочитая использовать термин «темп». Предложенные ими меры безопасности — базовый контроль и внешний надзор — теоретически могут привести к замедлению прогресса, однако официально об этом не заявляется. По сути, эти инициативы не подразумевают обязательного снижения скорости развития технологий по сравнению с текущим уровнем.
Рыночные механизмы и роль государственного регулирования
Возникает вопрос: нельзя ли утверждать, что в условиях свободного рынка и конкуренции без протекционизма компании, выпускающие небезопасные продукты, просто потеряют жизнеспособность? И разве не существуют регуляторы, которые могли бы воздействовать на такие компании уже сейчас?
В теории, в вакууме или на рынке, не искаженном внешними факторами, это могло бы работать. Однако текущее федеральное правительство не проявляет рвения к обеспечению соблюдения правил. Более того, в данной сфере отсутствует реальный выбор потребителя, который мог бы повлиять на компании через массовый отказ от их услуг. Поскольку бизнес-модели сместились в сторону корпоративного сектора, «голосование долларом» стало невозможным: крупные компании не будут переходить с Codex от OpenAI на Claude Code от Anthropic только из-за принципиального несогласия с действиями разработчика.
Дополнительным фактором является огромный приток инвестиционного капитала, который позволяет ИИ-компаниям легко поглощать любые финансовые потери. Поэтому идея о саморегулировании рынка на практике остается красивой теорией, которая в действительности не работает.
Детализация инициатив по безопасности и скепсис экспертов
Обсуждая план «сдерживания границ» (pacing the frontier), Шон О’Кейн в подкасте TechCrunch «Equity» провел параллель с фильмом «На гребне волны» (Point Break), назвав подобную риторику «очень калифорнийским заявлением». Он выразил сомнение в том, что компании в их текущем виде вообще способны на реальное замедление. По его словам, такие руководители, как Сэм Альтман из OpenAI, Дарио Амодеи из Anthropic и даже Илон Маск, выступают с заявлениями, которые остаются крайне расплывчатыми. Критики подчеркивают: отсутствие конкретики касается не только самих определений «рисков» и «опасностей», которые должны предотвращать эти меры, но и того, что именно технически подразумевается под замедлением разработки.
Энтони Ха добавил, что пристальное изучение вопроса показало: предложения Амодеи, представленные в его блоге, — это не плод индивидуальных размышлений, а идеи, которые долгое время «бродили» внутри сообщества безопасности ИИ. По мнению экспертов, такая синхронность действий может свидетельствовать о попытке создания некоего картельного объединения среди ограниченного круга «лабораторий ИИ передового уровня» (frontier AI labs), что вызывает вопросы о конкурентной честности и истинных целях индустрии.
Рыночные искажения и неэффективность потребительского контроля
Развивая тему ответственности, Шон О’Кейн подробно остановился на том, почему свободный рынок не может выступать эффективным регулятором в текущих условиях:
- Отсутствие рычагов давления: В отличие от классических потребительских рынков, здесь не наблюдается массовых отказов от услуг после инцидентов. У рядовых пользователей и компаний слишком мало реальных альтернатив.
- Корпоративная зависимость: С переходом на enterprise-модель основной доход компаний формируется за счет корпораций. Бизнес не станет отказываться от таких решений, как Claude Code от Anthropic или Codex от OpenAI, просто из-за этических разногласий с разработчиком — переход на другие инструменты требует колоссальных ресурсов и интеграционных затрат.
- Инвестиционная подушка: Огромные объемы венчурного капитала позволяют этим компаниям безболезненно абсорбировать любые финансовые потери, которые могли бы возникнуть в результате репутационных или регуляторных скандалов.
В этой системе координат, как отметил О’Кейн, «голосование долларом» перестает быть инструментом влияния, превращая теорию саморегулирующегося рынка в иллюзию.
Позиция «взрослого в комнате» и политические связи
Интересен и аспект смены «авторитетов» в индустрии. Если ранее эксперты и инвесторы смотрели на Microsoft и Сатью Наделлу как на силу, способную задавать вектор развития и обеспечивать стабильность, то сейчас этот авторитет пошатнулся. Наделла, обещавший «заставить Google танцевать», не достиг доминирования, которое ожидалось рынком, что ослабило позиции Microsoft как медиатора между индустрией и регуляторами.
На этом фоне Дженсен Хуанг из Nvidia, напротив, укрепил свои позиции, став ключевым связующим звеном. Однако участники дискуссии подчеркнули, что демонстрация такой близости к власти — например, телефонный звонок от Дональда Трампа во время публичного выступления Хуанга на саммите «All-In» — выглядит как тщательно выверенная стратегия. Это дает Nvidia возможность транслировать свои интересы напрямую, подавая сигнал, что любые попытки «замедления» ИИ не находят поддержки в высших эшелонах власти, что выгодно самой Nvidia, чьи финансовые успехи напрямую зависят от экспоненциального роста инфраструктуры для ИИ.
