Корпорация Meta в течение последних девяти месяцев размещала платные рекламные объявления, содержащие материалы с изображением сексуального насилия над детьми (CSAM), созданные с помощью нейросетей. Согласно отчету независимой организации Tech Transparency Project (TTP), в официальной рекламной библиотеке компании было выявлено более 50 подобных объявлений и видеороликов. Проблемный контент транслировался пользователям в США, Великобритании и более чем в десятке стран Европы через платформы Facebook, Instagram, Messenger и Threads.
Исследователи TTP отмечают, что охват некоторых рекламных публикаций исчислялся тысячами аккаунтов, включая пользователей из Германии, Франции, Италии, Испании и Швеции. Зачастую реклама вела на «надифай»-сервисы, предлагающие функционал для «раздевания» людей на фото, в том числе приложение MaskAI, которое впоследствии было удалено Apple из AppStore. По данным TTP, активность наблюдалась с ноября прошлого года по август. Директор организации Кэти Пол подчеркнула, что эти материалы успешно проходили модерацию Meta перед запуском, так как компания получала оплату за их демонстрацию.
Реакция компании Meta и удаление контента
После запроса издания WIRED и передачи данных от экспертов, Meta удалила обнаруженные объявления, указав на нарушение политики в отношении детской безопасности, сексуального насилия и наготы. Представители корпорации заявили, что активно борются с подобными угрозами, а большинство выявленных записей якобы имели минимальные охваты и были заблокированы еще до вмешательства прессы. В Meta также добавили, что часть контента прошла сквозь защитные фильтры, внедренные для автоматического контроля нарушений.
Тем не менее, исследователи обнаружили новые волны проблемных объявлений уже после первых обращений в компанию, причем некоторые из них оставались активными в момент фиксации. По словам экспертов, многие записи публиковались аккаунтами с минимальной историей, а рекламодателями выступали сторонние организации, включая гонконгскую фирму Meet Social.
Проблемы модерации и масштабы индустрии
Ситуация указывает на серьезные пробелы в работе систем модерации IT-гигантов. Кэти Пол отметила, что в базе рекламной библиотеки находили даже те материалы, которые Meta ранее удаляла, что ставит под сомнение эффективность внутренних алгоритмов фильтрации. Бывший эксперт по безопасности Google Алексис Манцарлис добавил, что только за последние годы выявил и сообщил платформе о более чем 25 тысячах объявлений, рекламирующих ИИ-инструменты для создания откровенного контента.
Несмотря на декларации Meta о политике «нулевой терпимости» и удалении сотен тысяч объявлений, связанных с сомнительными приложениями, правозащитники продолжают фиксировать уязвимости в системах проверки. Вся собранная TTP информация была передана в Национальный центр по поиску пропавших и эксплуатируемых детей (NCMEC) через линию CyberTipline. Узнать больше о системных рисках можно в материале: Meta размещала платную рекламу с материалами сексуального насилия над детьми, созданными ИИ.
