Развитие технологий искусственного интеллекта вызывает оживленные дискуссии не только о гипотетической угрозе исчезновения человечества, но и о вполне реальных рисках в военной сфере. Согласно информации, полученной CNN от источников в американских вооруженных силах, весной текущего года действия США едва не привели к столкновению с Китаем из-за ложных данных, сгенерированных нейросетью.
Ошибочный отчет и военная тревога
Инцидент произошел в ближневосточном регионе, где американский военный аналитик запросил у чат-бота оценку разведывательных данных о грузе, находящемся на борту китайского судна. Информация была получена от Командования специальных операций США в Тихоокеанском регионе. В ответ на запрос нейросеть ошибочно идентифицировала судно как перевозчика материалов для программы создания ядерного оружия.
На основании полученного ответа аналитик составил отчет, который привел военное командование в состояние повышенной готовности. Ситуация развивалась стремительно: были подняты в воздух боевые самолеты, а военный персонал начал подготовку к высадке на судно для его перехвата. Только после повторной, более тщательной проверки отчета выяснилось, что документ был частично сформирован искусственным интеллектом, а содержащаяся в нем информация оказалась полностью ложной. На текущий момент доподлинно неизвестно, что именно перевозило китайское судно, однако участники событий отмечают, что ошибка едва не спровоцировала прямой военный конфликт между двумя ядерными державами.
Особенности внедрения ИИ в оборонном секторе
На текущий момент не установлено, использовался ли для анализа коммерческий чат-бот или специализированная правительственная разработка. По мнению экспертов, знакомых с особенностями внедрения технологий в армии США, правительственный чат-бот, скорее всего, представляет собой клон коммерческого продукта, доработанный с использованием государственных разведданных. Произошедший инцидент подчеркивает риски, связанные с ускоренным внедрением ИИ в армии в условиях противостояния с Ираном.
В январе министр обороны Пит Хегсет заявила о необходимости более агрессивного использования ИИ и устранении бюрократических преград, аргументируя это тем, что отставание в технологической гонке может дать преимущество Китаю и другим оппонентам США. В результате аналитики испытывают колоссальное давление, вынуждающее их ускорять подготовку отчетов с помощью алгоритмов. Американские военные активно применяют ИИ в сферах логистики, целеуказания и разведки.
ИИ-инструменты уже сыграли заметную роль в текущих военных операциях. Например, модель Claude от компании Anthropic использовалась при подготовке ударов, включая операцию по ликвидации аятоллы Али Хаменеи. Тем не менее использование нейросетей не всегда проходит без последствий: ошибки при определении целей на основе устаревших данных могли привести к удару по школе в Минабе, жертвами которого стали 168 человек, преимущественно дети. Данный эпизод рассматривается экспертами ООН как потенциальное военное преступление. Американские чиновники подтвердили CNN, что случай с китайским судном не является единичным примером, когда военные сталкиваются с «галлюцинациями» искусственного интеллекта.
