Президент Дональд Трамп в ходе общения с журналистами в аэропорту Далласа прокомментировал растущие опасения экспертов относительно того, что развитие искусственного интеллекта может привести к исчезновению человечества. Отвечая на вопрос о возможных угрозах, исходящих от технологий, глава государства заявил: «Нет, у меня их нет».
Геополитический аспект развития технологий
Вместо обсуждения экзистенциальных рисков Трамп представил проблему как неотложное геополитическое соревнование. По его словам, главная задача США заключается в том, чтобы не уступить лидерство другим государствам. Президент подчеркнул: «У меня есть опасения, что если мы не победим в сфере ИИ, то окажемся в очень плохом положении».
Согласно оценкам президента, в настоящее время Соединенные Штаты опережают Китай в области развития искусственного интеллекта примерно на год. Трамп добавил, что такой разрыв в данной отрасли считается значительным преимуществом.
Позиция исследователей и опасения экспертов
Заявления президента прозвучали на фоне новых предупреждений от специалистов ведущих лабораторий, работающих в сфере ИИ. Дискуссия о безопасности обострилась после отставки Джейкоба Коксона, исследователя предварительного обучения в компании Anthropic. Он публично обвинил OpenAI и Anthropic в стремлении к созданию самосовершенствующихся систем, назвав этот процесс опасным.
«Они мчатся прямо к самосовершенствующемуся суперинтеллекту и играют нашими жизнями», — написал Коксон в соцсети X, утверждая, что разработчики верят в возможность гибели человечества от ИИ до конца десятилетия. Эван Хьюбингер, ведущий специалист по науке об оценке соответствия систем (alignment science) в Anthropic, выразил солидарность с коллегой, заявив, что оценивает вероятность истребления человечества ИИ в течение ближайших десяти лет более чем в 10%.
Особое внимание исследователи уделяют так называемому рекурсивному самосовершенствованию (RSI), когда системы ИИ участвуют в разработке более мощных преемников. Жасмин Ван, представившаяся как исследователь соответствия систем в OpenAI, отметила опасность форсирования этого процесса. Аналогичную обеспокоенность высказал главный научный сотрудник OpenAI Якуб Пачоцки, заявив, что текущие темпы развития машинного интеллекта могут привести к последствиям, к которым никто не готов.
Реакция законодателей США
Разногласия экспертов отразились и на политической повестке в Вашингтоне. Мнения законодателей разделились: одни призывают к серьезному регулированию, другие делают акцент на прагматизме национальной безопасности.
Сенатор Тед Круз (республиканец от штата Техас) выразил мнение, что Китай не остановится в развитии данных технологий, поэтому США должны действовать решительно. «Если суждено появиться роботам-убийцам, я предпочту, чтобы это были американские роботы-убийцы, а не китайские», — заявил Круз.
В то же время сенатор Берни Сандерс и член Палаты представителей Грег Касар предложили законопроект, предусматривающий паузу в разработке передовых систем ИИ до тех пор, пока федеральное правительство не установит четкие стандарты безопасности. Аналогичную позицию занимает член Палаты представителей Лори Трэхэн, которая совместно с Джеем Обернолте представила двухпартийный акт FRONTIER, обратив внимание на риск неконтролируемого выхода мощных моделей за пределы лабораторий.
Практические вызовы для бизнеса
Несмотря на приоритетность международной конкуренции, ИТ-лидеры сталкиваются с более приземленными рисками при внедрении ИИ. Среди актуальных угроз — утечка конфиденциальных данных, получение недостоверных результатов, киберуязвимости и функционирование систем без надлежащего контроля со стороны человека.
Специалистам рекомендуется продолжать независимое тестирование моделей, ограничивать доступ к критически важным системам и обеспечивать прозрачность ответственности перед развертыванием передовых ИИ-решений в бизнес-процессах.
Позиции политиков и законодательные инициативы
Дискуссия в Конгрессе вышла за рамки общих опасений. Сторонники жесткого регулирования указывают на конкретные угрозы, которые уже стали реальностью. Лори Трэхэн, обосновывая необходимость принятия акта FRONTIER, подчеркнула, что текущая ситуация характеризуется не только увольнениями обеспокоенных безопасностью исследователей, но и участившимися случаями «побега» мощных моделей из защищенного контура лабораторий, пока компании продолжают агрессивную гонку за первенство.
При этом, несмотря на призывы к паузе в разработках со стороны Берни Сандерса и Грега Касара, другие представители власти придерживаются прагматичного подхода, основанного на геополитическом соперничестве. Тезис Теда Круза о «роботах-убийцах» ярко иллюстрирует доминирующее среди части законодателей убеждение: национальная безопасность требует опережающего развития технологий, так как остановить прогресс на глобальном уровне невозможно.
Рекомендации для корпоративного сектора
Хотя высшее руководство страны сосредоточено на технологическом лидерстве относительно Китая, для бизнеса риски носят менее спекулятивный и более прикладной характер. Эксперты подчеркивают, что развертывание ИИ в критически важных рабочих процессах требует не только политики «национального приоритета», но и создания надежных операционных барьеров.
ИТ-директорам рекомендуется внедрять следующие меры для минимизации угроз:
- Независимая верификация: организации не должны полагаться только на заверения разработчиков моделей и обязаны проводить собственные стресс-тесты.
- Контроль доступа: ограничение прав доступа для продвинутых систем к наиболее чувствительным сегментам корпоративной инфраструктуры.
- Человеческий надзор: исключение сценариев, при которых ИИ принимает ключевые решения в автономном режиме без участия профильных специалистов.
- Подотчетность: установление четких протоколов ответственности за действия автоматизированных систем в рамках бизнес-цикла.
