Калифорния вводит независимый аудит систем искусственного интеллекта

Губернатор Калифорнии Гэвин Ньюсом официально утвердил два законопроекта, направленных на повышение прозрачности и достоверности проверок систем искусственного интеллекта. Новые нормативные акты призваны внедрить систему независимых оценок и создать государственный реестр профильных аудиторов. Эти меры стали ответом на стремительное внедрение мощных ИИ-систем в повседневные продукты и критически важные сервисы.

Новые законодательные инициативы в сфере контроля ИИ

Первый документ, известный как Сенатский законопроект 813 (Senate Bill 813), разработанный сенатором Джерри Макнерни, закладывает фундамент для деятельности независимых организаций, специализирующихся на верификации алгоритмов и моделей ИИ. Второй документ, Ассамблейный законопроект 1405 (Assembly Bill 1405), автором которого выступила член Ассамблеи Ребекка Бауэр-Кахан, регулирует создание государственного реестра ИИ-аудиторов. Согласно заявлению офиса губернатора, данный закон устанавливает строгие требования к независимости, прозрачности и профессиональной добросовестности экспертов.

Цель данных законов заключается в формализации роли организаций, которые проводят оценку сторонних разработок независимо от их создателей. Установление общих стандартов поможет бизнесу и государственным органам лучше понимать, соответствуют ли внешние оценщики критериям качества и объективности. По словам Джерри Макнерни, ИИ обладает огромным потенциалом для улучшения качества жизни, однако отсутствие эффективных предохранительных барьеров создает значительные риски.

Значение независимого тестирования и надзора

По мере того как системы ИИ становятся все более функциональными и интегрируются в бизнес-процессы и общественную инфраструктуру, последствия сбоев выходят далеко за рамки простых чат-ботов или программных ошибок. Ребекка Бауэр-Кахан подчеркнула, что разработчики не должны самостоятельно оценивать безопасность своих систем, заявив: «Мы не можем ожидать, что индустрия будет просто проверять собственную домашнюю работу».

Для ИТ-директоров и руководителей отделов закупок новый правовой каркас может стать инструментом для проведения комплексной проверки при выборе поставщиков ИИ или заказе независимых аудитов. Тем не менее введение реестра не отменяет необходимость выполнения внутренних протоколов безопасности, анализа конфиденциальности, юридической экспертизы и мониторинга после внедрения технологий.

Регулирование ИИ в контексте калифорнийской политики

Данные законопроекты дополняют уже существующий пакет калифорнийских правил в области искусственного интеллекта. Ранее губернатор Ньюсом подписал закон SB 53, требующий от разработчиков передовых ИИ-систем раскрывать принципы безопасности, отчитываться о критических инцидентах и обеспечивать защиту информаторов, сообщающих о серьезных рисках. Кроме того, в штате приняты меры по борьбе с ИИ-мошенничеством, защите приватности и обеспечению кибербезопасности. В августе была запущена программа AI Cyber Defense Program для выявления уязвимостей в сетях.

Отдельный пакет мер затрагивает использование ИИ детьми, включая требования к чат-ботам-компаньонам, родительский контроль и ограничения на аддиктивные функции в социальных сетях для пользователей младше 16 лет. Несмотря на активную деятельность на уровне штата, Ньюсом продолжает призывать к принятию федерального регулирования, аргументируя это тем, что риски ИИ требуют общенациональных решений.

Для бизнеса внедрение независимых обзоров может повлечь за собой дополнительные временные и финансовые затраты, особенно для небольших компаний с ограниченным штатом специалистов по комплаенсу. В настоящее время ИТ-лидерам рекомендуется следить за информацией о запуске реестра, критериях аккредитации аудиторов и о том, как Калифорния интегрирует этих специалистов в будущие требования по закупкам и соблюдению стандартов безопасности.