Губернатор штата Калифорния Гэвин Ньюсом предпринял новые шаги, направленные на усиление государственного регулирования сферы искусственного интеллекта. Соответствующий исполнительный указ, подписанный в пятницу, делает акцент на необходимости контроля над разработчиками передовых моделей ИИ. В условиях отсутствия значимых законодательных инициатив на федеральном уровне, Калифорния стремится стать лидером в области формирования стандартов безопасности для данной отрасли.
Разработка механизмов безопасности и независимый аудит
Согласно распоряжению губернатора, в течение двух месяцев специальная группа экспертов должна подготовить рекомендации по обновлению законодательства штата в сфере безопасности ИИ. Гэвин Ньюсом поставил перед специалистами задачу проработать несколько ключевых механизмов контроля:
- Обязательное внедрение функции «аварийного выключателя» (kill switch), работоспособность которого должна регулярно проходить независимую проверку.
- Размещение независимых групп аудиторов непосредственно на площадках ИИ-компаний для постоянного мониторинга.
- Установление стандартов для прозрачности отчетности и оценок рисков, которые будут проверяться сторонними организациями.
- Обязательство компаний уведомлять власти о критических инцидентах, связанных с потерей контроля над алгоритмами, по аналогии с недавней кибератакой на платформу Hugging Face.
Указ также обязывает профильные ведомства штата ускорить реализацию уже принятых законов, касающихся создания реестра аудиторов ИИ и формирования системы независимой оценки безопасности технологий.
Политический контекст и реакция федеральных властей
Инициатива Ньюсома появилась на фоне дискуссий в Конгрессе США, вызванных опасениями экспертов. В частности, бывший исследователь компании Anthropic Джейкоб Коксон ранее выступил с предупреждением о том, что вероятность гибели человечества от ИИ в ближайшее десятилетие превышает 10 процентов. Тем не менее, принятие существенных законодательных актов в Вашингтоне в ближайшее время маловероятно: Палата представителей находится на каникулах до ноября, а предстоящие промежуточные выборы ограничивают возможности для законотворческой работы в Сенате.
Президент Дональд Трамп выразил иную позицию, заявив, что единственным инструментом контроля ИИ должно быть руководство со стороны «умного и сильного президента». В ответ на это Гэвин Ньюсом подчеркнул, что бездействие федеральных властей вызывает серьезную обеспокоенность, особенно на фоне призывов самих руководителей крупнейших технологических компаний к введению правил регулирования.
Калифорния как площадка для формирования федеральных стандартов
Гэвин Ньюсом рассматривает предложенную в Калифорнии модель регулирования как основу для будущих общенациональных стандартов. Губернатор призвал Конгресс и администрацию президента рассмотреть данный опыт и использовать его в качестве минимального требования для обеспечения безопасности всех американцев. Политик отметил, что власти штата намерены действовать с высокой скоростью, осознавая важность текущих рисков.
На данный момент губернатор не исключает созыва специальной законодательной сессии в Калифорнии, посвященной исключительно вопросам искусственного интеллекта, что может дополнить текущие исполнительные меры. Ньюсом подчеркнул, что ставки слишком высоки, чтобы откладывать принятие ответственных решений в сфере развития ИИ.
