Исследователи из Institute of Strategic Dialogue (ISD) представили отчет о появлении нового тренда, получившего название «Slop Jihad». Сторонники радикальных исламистских группировок, таких как ИГИЛ и «Аль-Каида», начали применять инструменты генеративного искусственного интеллекта для создания контента, предназначенного для вербовки и радикализации молодежи. В отличие от традиционных пропагандистских материалов, этот контент мимикрирует под развлекательные форматы, включая мемы, фан-эдиты и анимационные ролики.
Особенности использования ИИ в радикальной пропаганде
Эксперты отмечают фундаментальную трансформацию в эстетике джихадистской пропаганды. В качестве примера приводится видео, распространявшееся в TikTok, где сцены казней, ранее запечатленные в официальных роликах террористических организаций, были переработаны в стиле мультсериала «Губка Боб Квадратные Штаны». В этой версии персонажи в оранжевых комбинезонах помещаются в клетку, которую опускает Губка Боб, в то время как Сквидвард выступает в роли оператора.
Адам Хэдли, исполнительный директор организации Tech Against Terrorism, поддерживает опасения ISD, указывая на рост объема и разнообразия подобных материалов. По его словам, стилизованный ИИ-контент делает жестокую экстремистскую повестку более доступной для молодой аудитории. Использование развлекательных форматов позволяет маскировать радикальную идеологию, обходя прямые ассоциации с террористическими брендами. В дальнейшем алгоритмы рекомендаций соцсетей могут предлагать пользователям, проявившим интерес к таким «фан-эдитам», более откровенную пропаганду.
Эволюция подходов террористических групп к новым медиа
Террористические организации на протяжении многих лет адаптируются к новым медиасредам. В начале 2020-х годов наблюдалось движение «Alt Jihad», заимствовавшее эстетику альт-райтов. В 2024 году группировки начали использовать ИИ-аватаров в выпусках новостной программы News Harvest для оперативного и дешевого распространения материалов. Мустафа Айяд, председатель отдела исследований глобального исламизма в ISD, подчеркивает, что текущий тренд продолжает развиваться и еще далек от своего пика.
ИИ-технологии позволяют быстро переводить официальные информационные бюллетени, например, еженедельник ИГИЛ «аль-Наба», в формат аниме. При этом внутри радикального сообщества наблюдается неоднозначная реакция на «Slop Jihad»: часть сторонников с недоверием относится к новым форматам, считая их создателей неистинными последователями идеологии, однако многие аккаунты активно делятся этим контентом параллельно с официальной пропагандой.
Роль TikTok в распространении экстремистского контента
Согласно отчету ISD, основная масса роликов Slop Jihad концентрируется на платформе TikTok. Исследователи обнаружили 150 видео, размещенных с 71 аккаунта, которые набрали в общей сложности более 5,4 миллиона просмотров. Мустафа Айяд связывает это с особенностями работы алгоритма «Для вас» (For You Page), который гипертрофированно таргетирует контент на интересы пользователей, а также с уже существующей экосистемой поддержки радикальных идей на платформе.
В ответ на запрос представители TikTok заявили, что считают выводы отчета недостаточно обоснованными, а методологию — расплывчатой. Компания подчеркнула использование комбинации технологий модерации, команд безопасности и партнерств для борьбы с экстремистскими организациями. После того как WIRED предоставил TikTok материалы из отчета, десятки указанных видео были удалены. Тем не менее, независимые эксперты, включая Аарона Зелина из Вашингтонского института ближневосточной политики, подтверждают выводы ISD, отмечая легкость, с которой ИИ позволяет децентрализованным пользователям манипулировать джихадистскими образами для привлечения внимания.
Проблема осложняется тем, что авторы удаленных аккаунтов оперативно создают резервные профили, заранее уведомляя подписчиков о новых точках присутствия. Некоторые видео, по словам Айяда, остаются доступными в течение многих месяцев, успешно обходя системы автоматического обнаружения экстремистских материалов.
Глобальное исследование и мнение экспертов
Важным аспектом, подчеркиваемым в отчете, является именно изменение стратегии радикализации. Если раньше пропаганда требовала серьезных усилий по созданию брендированного контента, то генеративные нейросети позволили радикальным группам и их сторонникам действовать децентрализованно. Аарон Зелин, специалист по джихадистскому экстремизму из Вашингтонского института ближневосточной политики, отмечает: «Примечательна здесь легкость, с которой генеративный ИИ позволяет гораздо более широкому и децентрализованному кругу пользователей ремикшировать фигуры и образы джихадистов». По мнению эксперта, интерес к таким материалам может быть продиктован не только искренней приверженностью идеологии, но и тягой к насилию, троллингу или поиску дурной славы.
Адам Хэдли из организации Tech Against Terrorism, поддерживаемой ООН, добавляет, что «высоко стилизованный контент, созданный с помощью ИИ, может сделать жестокие экстремистские материалы более доступными для молодой аудитории, одновременно снижая заметность традиционного террористического брендинга». Это создает опасную ловушку: пользователи могут непреднамеренно столкнуться с глорификацией террористов через развлекательные форматы, после чего алгоритмические рекомендации начнут подсовывать им более явную и радикальную пропаганду.
Реакция соцсетей и выводы отчета
Хотя Мустафа Айяд признает, что из-за специфики «Slop Jihad» некоторые ролики бывает трудно однозначно идентифицировать как связанные с терроризмом, большая часть этого контента явно направлена на поддержку радикальных идеологий. Тем не менее, борьба с данным явлением осложняется тем, что аккаунты, удаленные модераторами, быстро восстанавливаются.
«Некоторый контент выживает месяцами и продолжает обходить усилия по модерации, будь то их ИИ-системы, предназначенные для обнаружения террористических материалов, или другие методы», — констатирует Мустафа Айяд.
В отчет также были включены данные Организации экономического сотрудничества и развития (ОЭСР) за 2024 год. Согласно этому исследованию, TikTok вошел в топ-10 платформ, используемых для распространения террористического и экстремистского контента. Хотя исследователи из ISD обнаружили следы «Slop Jihad» на других площадках, таких как Instagram и Facebook, подавляющее большинство выявленных видео (150 роликов с 71 аккаунта) приходилось именно на TikTok. Исследователи связывают это с наличием на платформе «укоренившейся экосистемы джихадистской поддержки».
В своем официальном ответе для WIRED представители TikTok заявили: «Мы запрещаем присутствие жестоких и ненавистнических организаций и используем сочетание передовых технологий модерации, команд безопасности и партнерств для проактивного обнаружения и удаления нарушающего правила контента». Компания также оспорила методологию отчета, назвав выводы «слабо подкрепленными доказательствами». Тем не менее, после того как издание передало ссылки на конкретные видео, упомянутые в отчете, десятки из них были оперативно удалены администрацией соцсети.
Эстетика борьбы внутри радикального сообщества
Интересной деталью, выявленной исследователями, стала внутренняя полемика среди сторонников джихадистских движений. Оказалось, что «Slop Jihad» принимают далеко не все. По словам Мустафы Айяда, существует некая неприязнь к «новому стилю» со стороны «традиционных» последователей. «Существует своего рода любовь-ненависть к контенту Slop Jihad», — поясняет Айяд, отмечая, что некоторые пользователи, публикующие официальные сводки, одновременно репостят и «аниме-версии» новостных рассылок, в то время как другие критикуют производителей такого контента, не считая их «истинными верующими».
