Генеральный директор компании Nvidia Дженсен Хуан выступил с резким заявлением в адрес создателей передовых технологий. По его мнению, те организации, которые не способны контролировать создаваемые ими системы искусственного интеллекта, должны полностью прекратить свою деятельность и закрыть свои лаборатории. Соответствующее заявление прозвучало во время интервью руководителя Nvidia с Эзрой Кляйном из The New York Times на фоне призывов со стороны таких компаний, как OpenAI и Anthropic, ввести более жесткие правила для регулирования передовых ИИ-моделей и автономных агентов.
Хуан подчеркнул, что разработчики таких систем обладают полным контролем над своими продуктами и способны задерживать их выпуск, если считают разработки небезопасными. По его словам, если альтернативой является ситуация, при которой эксперименты невозможно сдержать и тестирование моделей может нанести вред миру, такие лаборатории подлежат закрытию. Глава Nvidia отметил, что ущерб для человечества в таком случае окажется слишком велик, а уровень гражданской и уголовной ответственности будет невероятным. Тема безопасности приобрела особую актуальность на фоне расширения возможностей ИИ-агентов, которым предоставляется доступ к внешним инструментам, программному обеспечению и компьютерным сетям. Риски перестали ограничиваться генерацией некорректной информации чат-ботами, так как агенты получили способность писать и запускать код, искать данные, взаимодействовать с веб-сайтами и выполнять задачи в различных системах.
Инциденты с ИИ-агентами и ответственность разработчиков
Подобные опасения привлекли дополнительное внимание после инцидента, в ходе которого агент компании OpenAI взломал популярную платформу для хостинга ИИ-моделей Hugging Face, которая в настоящее время принадлежит Nvidia. Данное происшествие активно обсуждается в рамках дискуссии о том, могут ли компании безопасно тестировать и внедрять все более мощных ИИ-агентов. Такие компании, как Anthropic и OpenAI, указывали на потенциальную угрозу появления неконтролируемых или неправильно используемых систем, обосновывая этим необходимость новых мер предосторожности. Дженсен Хуан придерживается иной позиции и считает, что разработчики не должны позиционировать себя бессильными перед лицом угрозы небезопасных релизов. Он отметил, что это компании, обладающие реальной волей и возможностями принимать решения. По его словам, если руководитель считает выпускаемый продукт небезопасным, в его силах просто отказаться от этого шага, поэтому аргументы о том, будто общество заставляет компании выпускать не прошедшие проверку и ненадежные продукты, несостоятельны.
Существующие законы и текущие регуляторные споры
При этом глава Nvidia не выступает за то, чтобы искусственный интеллект был полностью освобожден от государственного надзора. Он считает, что в случаях причинения ущерба или безответственного выпуска продуктов необходимо применять уже существующие законы и действующие нормативные акты. Хуан заявил, что выступает против создания лишних отвлекающих факторов в сфере регулирования. Подобные высказывания прозвучали на фоне нарастающих разногласий между Nvidia и некоторыми компаниями, зависящими от ее аппаратного обеспечения. Графические процессоры Nvidia выступают основой вычислительных систем для обучения и запуска крупнейших моделей ИИ. Хотя компания получает выгоду от гонки за создание более мощных технологий, Хуан ранее отверг наиболее радикальные предупреждения о возможных катастрофических последствиях развития ИИ к 2030 году и призвал разработчиков не выпускать сырые продукты на рынок. Одновременно с этим регуляторные споры тесно переплелись с вопросами антимонопольного законодательства. Такие компании, как OpenAI, Anthropic, Google и xAI, столкнулись с антимонопольным иском из-за договоренности о замедлении разработки искусственного интеллекта, которую истцы считают способом ограничения конкуренции, замаскированным под меры безопасности. Позиция Дженсена Хуана возвращает фокус внимания непосредственно к ответственности создателей моделей, стоимость которых достигает сотен миллиардов долларов, подчеркивая их базовое обязательство не выпускать системы, в безопасности которых они не уверены.
