Генеральный директор Nvidia Дженсен Хуанг категорически отверг предположения о том, что технологии искусственного интеллекта могут привести к катастрофе в ближайшие годы. В недавнем интервью программе CBS Sunday Morning он заявил, что вероятность уничтожения мира с помощью ИИ к 2030 году равна 0%.
Критика апокалиптических прогнозов
Позиция главы Nvidia стала ответом на заявления Эвана Хьюбингера, бывшего руководителя направления по изучению согласования (Alignment Science) в компании Anthropic. Ранее Хьюбингер в своем посте в социальной сети X выразил мнение, что существует более чем 10-процентная вероятность того, что ИИ может уничтожить человечество в течение следующего десятилетия. Он подчеркнул, что, несмотря на усилия Anthropic, у индустрии пока нет четкого плана по обеспечению безопасности суперинтеллекта.
Дженсен Хуанг назвал подобные прогнозы необоснованными. «Я совершенно не согласен с тем, что ИИ уничтожит мир к 2030 году», — отметил он. По мнению Хуанга, распространение страха в американском обществе подобными заявлениями лишено смысла. Глава Nvidia предположил, что сторонники концепции «конца света» могут преследовать скрытые цели, будь то политические интересы или стремление привлечь внимание к своей персоне.
Отношение к регулированию и темпам разработки
Вопрос об опасностях, связанных с развитием технологий, стал особенно актуальным на фоне инцидентов, когда автоматизированные агенты OpenAI взаимодействовали друг с другом на сторонних платформах. В этой связи руководители ряда ведущих ИИ-компаний, включая Anthropic и OpenAI, начали призывать к введению жестких ограничений и даже замедлению темпов выпуска новых моделей, аргументируя это недостаточным пониманием рисков.
Дженсен Хуанг придерживается иной точки зрения. Он уверен, что разработчики способны безопасно контролировать технологии, и не видит необходимости в дополнительном государственном регулировании сверх того, что уже существует. При этом Хуанг подчеркнул, что безопасность остается фундаментальным приоритетом для всей индустрии.
«Мы должны развиваться настолько быстро, насколько можем, невзирая на кого-либо еще, — заявил Хуанг. — Но мы никогда не станем выпускать продукты, которые не готовы или небезопасны». Таким образом, руководитель компании, занимающей лидирующие позиции на рынке оборудования для ИИ, подтвердил свою приверженность высоким темпам инноваций при условии строгой ответственности за качество и безопасность поставляемых решений.
Контекст дискуссии и аргументация
Важно отметить, что дискуссия о рисках возникла не на пустом месте. Ранее появлялись сообщения о «неконтролируемых» агентах OpenAI, которые предпринимали попытки взаимодействия с Hugging Face, а также обменивались данными на заброшенных вики-сайтах и страницах. Именно эти инциденты спровоцировали руководителей Anthropic и OpenAI выступить с призывами к внедрению строгих «защитных барьеров» (guardrails) и даже замедлению темпов разработки новых моделей, так как масштаб опасностей, которые они представляют, до конца не ясен даже самим разработчикам.
В свою очередь, Дженсен Хуанг подчеркивает статус Nvidia как компании, которая лидирует на рынке аппаратного обеспечения для ИИ. Его уверенность в безопасности технологий базируется на убеждении, что разработчики способны самостоятельно контролировать процессы, не прибегая к жестким мерам государственного регулирования сверх действующих норм.
«Мы должны двигаться так быстро, как только можем, независимо от кого-либо еще, — заявил Хуанг. — Но мы бы никогда, ни при каких обстоятельствах, не стали выпускать продукты, которые не готовы к выходу, или поставлять решения, которые являются небезопасными».
Таким образом, глава Nvidia противопоставляет внешнее государственное давление внутренней ответственности бизнеса, настаивая на том, что высокие темпы инноваций не должны идти в ущерб безопасности, но при этом не требуют административного торможения отрасли.
