Демис Хассабис, руководитель Google DeepMind, выступил с инициативой создания независимого международного органа, задача которого — проводить аудит и оценку самых мощных нейросетевых моделей до их официального выхода на рынок. По мнению эксперта, такой регулятор должен обладать полномочиями координировать временные паузы в выпуске систем, если они будут признаны потенциально опасными для общества.
Независимый надзор за ИИ
Хассабис подчеркнул, что игнорирование глобальных стандартов в сфере передовых технологий больше недопустимо. В своей новой статье «A Framework for Frontier AI and the Dawning of a New Age» он предложил сформировать специализированную международную организацию. Ее основной функцией станет независимый надзор за разработками, которые приближаются к уровню общего искусственного интеллекта (AGI), способного решать задачи на уровне человеческого разума.
Согласно плану главы DeepMind, инициатором запуска этой структуры должны стать США, учитывая их лидерство в индустрии и влияние на глобальные технологические рынки. Организация призвана объединить экспертов в области безопасности, научное сообщество и разработчиков открытого ПО.
Контроль на пороге эпохи AGI
Хассабис уверен, что мир стоит на пороге фундаментальных экономических и социальных трансформаций. Именно поэтому механизмы сдерживания необходимо проработать заранее. На данный момент автор инициативы уже ведет активные консультации с представителями правительства США, профильными чиновниками из Европы и коллегами из других ИИ-лабораторий. Есть надежда, что регулятор может начать функционирование уже до конца текущего года, хотя на сегодняшний день не выработаны ни единые международные стандарты, ни общепринятая система правил внутри самих Соединенных Штатов.
Это предложение является логичным продолжением дискуссии об ответственности разработчиков. Ранее Хассабис и другие лидеры IT-индустрии уже призывали к усилению мер безопасности, чтобы исключить использование нейросетей для создания биологического оружия. Тем не менее, создание глобального контрольного органа остается крайне непростой задачей, так как страны зачастую по-разному оценивают риски, а сами корпорации вынуждены балансировать между необходимостью соблюдения жестких норм и жесткой конкуренцией в гонке за превосходство технологий.
