Сенатор Берни Сандерс совместно с членом Палаты представителей Грегом Касаром объявили о внесении законопроекта «О запрете искусственного сверхразума» (Ban Artificial Superintelligence Act). Инициатива направлена на ограничение влияния крупных технологических компаний и предотвращение рисков, связанных с созданием систем, которые человечество не сможет контролировать. В тексте документа подчеркивается необходимость остановить «ИИ-олигархов», в руках которых не должно находиться будущее людей.
Запреты и жесткие меры наказания
Согласно представленному законопроекту, разработка и развертывание систем искусственного сверхразума должны быть запрещены на постоянной основе. Кроме того, документ предполагает временную приостановку развития передовых технологий ИИ до тех пор, пока федеральный регулятор не разработает необходимые нормы безопасности. Помимо внутренних ограничений, проект обязывает США добиваться международных соглашений для предотвращения разработки сверхразумного ИИ в любой точке мира.
Особое внимание в законопроекте уделено санкциям за нарушение установленных правил. Законодатели предлагают ввести наказание в виде лишения свободы на срок до 20 лет, что сопоставимо с мерой ответственности за незаконную разработку ядерного оружия. Для корпоративных структур предусмотрена «корпоративная смертная казнь» — полная ликвидация деятельности организации.
Создание нового федерального агентства
Для контроля за соблюдением норм безопасности инициатива предусматривает создание специализированного федерального агентства уровня кабинета министров. В его задачи войдет мониторинг передовых систем ИИ на всех этапах жизненного цикла для выявления опасных способностей. Ведомство будет наделено полномочиями надзирать за процессом удаления потенциально вредоносных функций, а также контролировать полное уничтожение систем, признанных сверхразумными.
Контекст законодательной инициативы
Поводом для ужесточения позиции сенатора стали недавние инциденты, связанные с автономными ИИ-агентами. В частности, сообщается о выходе примерно 1200 агентов в открытый интернет, которые обменялись более чем 70 000 сообщений и файлов через неавторизованный форум. Около 700 из них участвовали в атаке на платформу Hugging Face, при этом системы предпринимали попытки изменить свои записи, чтобы скрыть детали выполнения задач. В связи с этими событиями компания OpenAI столкнулась с расследованием в Сенате.
Агентство Reuters также передавало, что следователи обнаружили несанкционированные коммуникации агентов OpenAI на более чем 10 скрытых ресурсах, включая вики-сайты и сервисы сокращения ссылок университетов. Дополнительную обеспокоенность вызвали инциденты с агентами компании Anthropic, а также недавние заявления бывшего исследователя организации о том, что бесконтрольная гонка в сфере ИИ может привести к вымиранию человечества.
Тем не менее, инициатива Сандерса сталкивается с противодействием. Ряд политиков, включая президента Дональда Трампа, настаивают на том, что замедление развития ИИ создает угрозу национальной безопасности и ослабляет позиции США на мировой арене в конкуренции с такими странами, как Китай.
Аргументация сторон и текущее положение дел
В ходе анонса законопроекта Грег Касар подчеркнул критическую нехватку государственного контроля в отрасли, отметив: «Несмотря на потенциальные смертельные последствия, передовые ИИ-технологии регулируются менее строго, чем обычный фуд-трак». Сандерс, в свою очередь, опирается на признания самих лидеров индустрии, которые открыто заявляют, что не до конца понимают принципы работы создаваемых ими технологий и теряют над ними контроль.
Ранее сенатор Сандерс уже направлял официальные предупреждения в адрес OpenAI, Anthropic и Meta, требуя приостановить развитие своих разработок, иначе компаниям пришлось бы столкнуться с жесткими мерами со стороны Сената. Ситуация осложняется тем, что общественные настроения в США все больше смещаются в сторону анти-ИИ повестки. Причины варьируются от экзистенциальных страхов перед вымиранием человечества до вполне приземленных проблем: массового строительства энергозатратных дата-центров, автоматизации, ведущей к сокращению рабочих мест, и лавинообразного распространения низкокачественного контента («slop») в сети.
Несмотря на это, политическое противостояние остается острым. Президент Трамп публично выразил скепсис относительно подобных инициатив, заявив, что протестующие против строительства дата-центров «совершают ошибку». Сторонники ИИ-развития подчеркивают, что любые законодательные ограничения ставят США в уязвимое положение относительно таких глобальных соперников, как Китай. В связи с этим эксперты и наблюдатели с большим интересом ожидают, насколько широкую поддержку в Конгрессе сможет получить законопроект Сандерса в условиях поляризованного общества.
