Дискуссия вокруг безопасности искусственного интеллекта обострилась после выхода эссе Дарио Амодеи, генерального директора компании Anthropic, под названием «Мы должны сдерживать фронтир» (We Must Pace the Frontier). В своем материале Амодеи предложил три шага для контроля темпов развития ИИ-индустрии: привлечение независимых оценщиков для проверки соблюдения стандартов безопасности, координацию между ведущими компаниями в демократических странах, а также взаимодействие с правительствами других государств для установления общих рамок развития технологий.
Инициатива Дарио Амодеи и реакция представителей ИИ-индустрии
Амодеи подчеркнул, что Anthropic обязуется первой реализовать этап с привлечением сторонних аудиторов. По его мнению, замедление темпов не означает прекращение технических разработок, а предполагает выделение достаточного времени на настройку и защиту моделей.
Генеральный директор OpenAI Сэм Альтман выразил поддержку идее Амодеи. По словам Альтмана, вопрос сдерживания прогресса был одной из главных тем обсуждений в OpenAI в последние недели. Альтман одобрил идею внедрения независимых оценщиков и заявил, что компания выступает за федеральную систему контроля, которая установила бы согласованные требования к безопасности для передовых систем ИИ. Он отметил, что общие стандарты по мониторингу и выявлению ошибок приведут к более надежным результатам. При этом Альтман подчеркнул необходимость поиска «узкого среднего пути», чтобы избежать двух ключевых рисков: потери контроля над будущим из-за ИИ и чрезмерной концентрации власти в одних руках.
Демис Хассабис, соучредитель и председатель Google DeepMind, также поддержал направление, предложенное Амодеи. Он заявил, что вектор движения верный, а детали требуют дальнейшей проработки, напомнив о предложенной им в июле структуре для органа по стандартизации в области ИИ.
Позиция политического руководства США
Президент США Дональд Трамп выступил с критикой призывов к замедлению развития отрасли. По его словам, единственная необходимая мера контроля — это «сильный и умный президент», которым, как он утверждает, располагают Соединенные Штаты. Трамп заявил, что администрация уже использует регуляторные и уголовные рычаги влияния на компании. Он обвинил сторонников замедления в участии в «болезненном заговоре» против ИИ и центров обработки данных, который, по его мнению, выгоден только Китаю.
Вице-президент США Джей Ди Вэнс выразил скепсис по поводу стремления ИИ-компаний к саморегулированию, назвав его «троянским конем». Он подчеркнул, что правительство осведомлено о долгосрочной гонке в сфере ИИ, в которую Китай вовлечен против Соединенных Штатов.
Спикер Палаты представителей Майк Джонсон в интервью CNN подчеркнул, что правительству необходимо провести встречу с лидерами индустрии для поиска баланса. Джонсон исключил возможность введения моратория на развитие ИИ, сославшись на национальную безопасность и риск отставания от Китая. В свою очередь, сенатор Берни Сандерс заявил, что согласен с мнением колумниста Wall Street Journal Пегги Нунан, ранее опубликовавшей материал с призывом приостановить развитие ИИ ради человечества.
Детализация предложений Дарио Амодеи
В своем эссе Дарио Амодеи конкретизировал, что именно подразумевает под внедрением «независимых оценщиков». По его задумке, такие структуры должны не просто проводить аудит, но и обладать полномочиями для верификации того, что компания действительно соблюдает заявленные стандарты безопасности. Одной из ключевых функций этих проверяющих должно стать оперативное информирование о любых инцидентах, связанных с моделями. В отношении международного сотрудничества Амодеи сделал важную оговорку: он призвал к координации усилий между демократическими правительствами и авторитарными режимами для контроля темпов развития ИИ, уточнив при этом: «настолько, насколько это возможно».
Позиция OpenAI: взгляд Сэма Альтмана
Сэм Альтман, отреагировавший на инициативу Амодеи в социальной сети X почти сразу после публикации, подтвердил, что OpenAI надеется на то, что другие игроки рынка будут внимательно изучать их подходы к безопасности и предлагать собственные решения. Альтман подчеркнул: «Когда мы говорим о “сдерживании”, мы не имеем в виду “остановку”». По его мнению, технологический прогресс должен быть лишь «медленнее, чем он мог бы быть в иных обстоятельствах». Глава OpenAI также выразил обеспокоенность по поводу двух конкретных сценариев, при которых развитие ИИ может пойти по негативному пути: это утрата человечеством «контроля над своим будущим» и риск возникновения мира с «чрезмерной концентрацией власти» в руках узкого круга лиц.
Реакция политических фигур и риторика национальной безопасности
Дональд Трамп в своем заявлении использовал более агрессивную риторику, назвав призывы к осторожности попыткой Амодеи притвориться «идеальным маленьким ангелом». Президент США подчеркнул, что его администрация уже предприняла шаги, чтобы остановить «плохие, или потенциально плохие вещи», которые могут исходить от компаний вроде Anthropic. Главным приоритетом для Трампа остается доминирование США: «Кто побеждает в ИИ — тот побеждает вообще». Он прямо заявил, что Америка обходит Китай и намерена сохранять лидерство любой ценой, предостерегая при этом «теоретиков заговора, предателей и тех, кто распространяет утечки».
Спикер Палаты представителей Майк Джонсон в интервью Джейку Тапперу на CNN обозначил готовность к диалогу с лидерами техгигантов. Джонсон отметил, что вопрос о том, когда именно такая встреча может состояться, остается открытым, но выразил готовность провести её буквально «завтра». Главным вызовом для него является поиск баланса между «немедленной безопасностью» самих моделей и вопросами национальной безопасности, где критически важным фактором является конкуренция с Китаем.
Сенатор Берни Сандерс в своем присоединении к дискуссии сослался на конкретный интеллектуальный ресурс, поддержав позицию Пегги Нунан, бывшего спичрайтера Рональда Рейгана и колумниста Wall Street Journal. В своей статье под заголовком «Остановите ИИ ради человечества» (Pause AI for Humanity’s Sake) Нунан озвучила радикальные опасения, которые нашли отклик у Сандерса, тем самым расширив спектр политических дискуссий вокруг темы безопасности ИИ до уровня фундаментальной ответственности перед обществом.
