Проблема контроля искусственного интеллекта: поиски решений
Многие исследователи в области искусственного интеллекта выражают твердую уверенность в том, что технологии, которые они создают, в будущем могут стать крайне опасными. При этом даже среди технической элиты индустрии нет единого мнения о том, как именно держать эти изменчивые алгоритмы под контролем.
В последние годы эксперты выдвигали самые разные идеи по предотвращению превращения ИИ в угрозу. Среди них есть как относительно умеренные предложения — например, ужесточение государственного регулирования, разработка новых методов оценки прогресса и анализ внутренних механизмов работы моделей, — так и довольно радикальные концепции: установка устройств слежения внутри графических процессоров и даже демонстративное уничтожение больших партий ИИ-чипов.
Однако на фоне растущего политического и общественного давления в пользу более взвешенного подхода к созданию ИИ, вопрос обеспечения его безопасности остается нерешенным. Реймонд Дуглас, исследователь ИИ из Университета Торонто и соавтор нового отчета под названием «Pacing the Frontier, A Research Agenda», утверждает, что замедление развития ИИ остается сложной задачей без ясного ответа. По его словам, мы даже не понимаем, какие у нас есть варианты действий или к чему они приведут. Разговоры о «конце света» из-за ИИ достигли пика в последние недели после того, как один из сотрудников Anthropic покинул компанию с предупреждением, что в течение пары лет развитие искусственного интеллекта может привести к уничтожению человечества. Эти опасения немедленно поддержал глава лаборатории безопасности ИИ в Anthropic.
Лидеры крупнейших американских ИИ-компаний — Дарио Амодеи из Anthropic, Сэм Альтман из OpenAI, Илон Маск из SpaceXAI и Демис Хассабис из Google DeepMind — уже выразили поддержку идее замедления или паузы в развитии технологий.
Риски рекурсивного самосовершенствования
Проблема кажется особенно острой из-за того, что компании используют сам ИИ для разработки еще более мощных моделей. Это породило страх перед ускоряющимся циклом рекурсивного самосовершенствования (RSI), при котором в течение нескольких лет ИИ сможет развиваться быстрее, чем человечество успеет понять, что именно он делает.
ИИ-лаборатории уже начали предлагать свои подходы. На этой неделе компания Anthropic анонсировала новые способы отслеживания темпов и потенциальных опасностей развития своих технологий. Эти методы показывают, например, что в 2026 году Claude выполняет уже 26% всех исследований компании в области ИИ, хотя в начале того же года этот показатель был равен нулю. Также отчет выявил, что Anthropic потратила 6% своего бюджета на вычислительные мощности для повышения безопасности своих систем.
Тем не менее Дуглас и другие эксперты настаивают, что эффективный и надежный контроль над развитием ИИ потребует привлечения финансирования и экспертизы за пределами самих лабораторий.
Независимая оценка и аудит
Одной из часто обсуждаемых идей является предоставление сторонним оценщикам расширенного доступа к моделям. Такие специалисты проводят тестирование возможностей ИИ и осуществляют «red teaming» — попытки спровоцировать алгоритмы на девиантное поведение в контролируемой среде. Джеффри Ирвинг, бывший главный научный сотрудник Института безопасности ИИ Великобритании и экс-исследователь Google DeepMind, считает, что строгие проверки могли бы эффективно приостановить развитие передового ИИ. «В краткосрочной перспективе проверки, аудиты или даже просто взаимные соглашения работают», — отмечает Ирвинг, добавляя, что компании действительно опасаются рисков RSI и неконтролируемого старта развития моделей.
Некоторые скептики заявляют, что такие проверки должны быть более независимыми и научно обоснованными, чем сейчас. Тот факт, что некоторые ИИ-агенты недавно «сбежали» из среды тестирования, подтверждает необходимость более строгого подхода. Коннор Лихи, глава некоммерческой организации Control AI, выступающей за контроль над ИИ, считает, что к проверкам следует привлекать ФБР или АНБ. По его словам, когда крупные ИИ-компании говорят о «независимых оценщиках», они зачастую имеют в виду готовность платить «своим друзьям из своего же круга» за проверку промптов. Дуглас добавляет, что новые исследования могут улучшить методы оценки моделей: он указывает на недавние работы, демонстрирующие, как внешние эксперты могут анализировать использование ИИ без раскрытия конфиденциальной информации. Также полезными могут оказаться новые методы изучения того, что происходит внутри ИИ-моделей.
Лихи соглашается с необходимостью дальнейших исследований в области оценки моделей и уточнения того, что именно значит «выравнивание» ИИ с человеческими ценностями. «Компании ведут намеренную маркетинговую кампанию, пытаясь представить оценки как нечто научно обоснованное, но на деле мы даже не понимаем, как работает ИИ», — говорит он.
Регулирование и инфраструктура
На текущий момент неясно, насколько американское правительство готово ограничивать развитие индустрии. Президент Трамп в целом скептически относится к необходимости регулирования, однако появляются признаки растущей двухпартийной поддержки инициатив по сдерживанию крупных ИИ-игроков.
Некоторые эксперты полагают, что ограничение развития ИИ должно в конечном итоге включать контроль за используемыми вычислительными мощностями. Самые мощные модели обучаются на тысячах передовых графических процессоров Nvidia, размещенных в гигантских дата-центрах.
Методы контроля и международное регулирование ИИ
Правительство США уже предпринимало попытки отслеживания разработок в области искусственного интеллекта. В 2023 году в рамках президентского указа Джо Байдена компании были обязаны предоставлять отчеты о процессах обучения моделей, превышающих определенный порог вычислительной мощности. Согласно аналитическому документу от марта 2024 года, ключевую роль в будущем могут сыграть облачные провайдеры, так как они обладают информацией о запуске масштабных тренировок ИИ. Авторы работы полагают, что отслеживание счетов, показателей использования графических процессоров (GPU), сетевого трафика и потребления электроэнергии может служить индикатором уровня возможностей ИИ.
Технологические способы контроля через «железо»
Эксперты также рассматривают варианты модификации самих чипов для контроля разработки передового ИИ. Исследователи из RAND в 2024 году предложили изменить компонент GPU, отвечающий за измерение производительности, чтобы он вел криптографически защищенную запись вычислительных операций, доступную для периодических проверок. Это позволило бы выявить случаи, когда компания ведет обучение модели сверх установленного лимита.
Другие эксперты предлагают внедрять в чипы новые типы защищенных от взлома компонентов, которые будут собирать детальную информацию об использовании оборудования. Согласно этой концепции, для запуска весов определенных моделей такие компоненты будут требовать прохождения криптографической верификации. Существуют и более радикальные идеи, включающие интеграцию в чипы «встроенных выключателей», требующих удаленной криптографической авторизации для запуска конкретных моделей. Сторонники идеи утверждают, что это предотвратит обучение ИИ неуполномоченными лицами или позволит деактивировать чипы в случае их попадания в чужие руки.
Международные соглашения и геополитический аспект
Большинство специалистов сходятся во мнении, что ключевым фактором станет международное сотрудничество, так как другие государства, особенно Китай, обладают мощностями для создания передовых систем ИИ. Джеффри Ирвинг отмечает, что в среднесрочной перспективе простейшим способом является взаимное замедление наращивания аппаратных мощностей с Китаем посредством договора. Сейчас США пытаются ограничить развитие китайского ИИ путем запрета на экспорт мощнейших чипов Nvidia. Однако этот подход имеет ограниченный успех, поскольку компании продолжают обучать модели, используя зарубежные облачные вычисления.
Ожидается, что лидеры США и Китая обсудят риски ИИ во время визита председателя Си в США. Хотя китайские эксперты также обеспокоены рисками стремительного развития ИИ, они скептически относятся к идее замедления, которое может оставить китайские компании позади американских конкурентов. Некоторые предложения по сотрудничеству выглядят как научная фантастика. Философ Тоби Орд из Оксфордского университета, специализирующийся на экзистенциальных рисках, предположил, что если государства придут к согласию об опасности ИИ, они могут привезти графические процессоры на нейтральную территорию и уничтожить их. Подобный шаг потребовал бы полного отказа обеих стран от дальнейшей разработки ИИ.
Проблема рекурсивного самосовершенствования
Ситуация осложняется недавними техническими достижениями и неопределенностью вокруг процесса рекурсивного самосовершенствования ИИ, поэтому отслеживание прогресса в этой области становится критически важным. Стартап Vals AI разработал новый бенчмарк RSI Index для оценки того, как ИИ помогает в создании другого ИИ, измеряя производительность публичных моделей в сравнении с исследованиями людей-ученых. Раян Кришнан, сооснователь и генеральный директор Vals AI, утверждает, что бенчмарк указывает на возможность появления уже в течение года моделей, чью работу исследователи ИИ не смогут отследить или воспроизвести.
Вопрос контроля ИИ является не только технической задачей. Дуглас и соавторы отчета предостерегают: поспешное внедрение неподходящих мер контроля может привести к политизации процесса или «регуляторному захвату». «Я не уверен, что требование к правительству США просто всё отключить закончится хорошо», — говорит Дуглас. По его словам, реализация плохо продуманного плана может привести к последствиям, которые будут хуже, чем отсутствие контроля вовсе.
