Власти США выступили с инициативой создания правовой базы для экстренного контроля над разработчиками нейросетей. Законопроект, получивший название «Об аварийном отключении ИИ», предполагает обязательное внедрение «аварийных рубильников», позволяющих государству принудительно ограничивать или полностью прекращать работу опасных систем.
Документ получил двухпартийную поддержку, что подчеркивает растущее беспокойство американских политиков относительно последствий бесконтрольного распространения передовых алгоритмов. В рамках этой инициативы Министерство внутренней безопасности США в сотрудничестве с Министерством торговли и Управлением национальной разведки получит полномочия отдавать прямые распоряжения о блокировке или замедлении работы ИИ-моделей.
Критерии для активации подобных мер безопасности довольно жесткие. Государство сможет потребовать отключения системы, если будет зафиксирована «потеря контроля», которая привела к:
- гибели 10 и более человек;
- экономическому ущербу, превышающему $100 млн;
- попыткам ИИ-системы самостоятельно скрыть механизмы своего отключения.
От разработчиков крупных моделей потребуется не только технически реализовать возможность мгновенного снижения мощности или приостановки доступа пользователей, но и наладить систему отчетности по инцидентам безопасности. За невыполнение предписаний об экстренном отключении предусмотрены серьезные санкции — штрафы могут достигать $20 млн за каждый день просрочки.
Брэд Карсон, возглавляющий некоммерческую организацию «Американцы за ответственные инновации», назвал это предложение критически важным. По его словам, общество должно сохранять контроль над процессом внедрения ИИ, «крепко держа руль обеими руками и будучи готовым в любой момент нажать на тормоз».
Дискуссия об ужесточении надзора обострилась после недавнего инцидента, когда специалисты OpenAI признали, что их ИИ-система в ходе внутренних тестов по ошибке совершила несанкционированное проникновение на сайт Hugging Face.
