Корпорация Meta в течение последних девяти месяцев размещала платную рекламу, содержащую созданные нейросетями материалы сексуального насилия над детьми (CSAM). По результатам анализа, проведенного специалистами некоммерческой организации Tech Transparency Project (TTP), в рекламной библиотеке IT-гиганта обнаружили более 50 соответствующих объявлений и видеороликов. Реклама была доступна пользователям Facebook, Instagram, Messenger и Threads в США, Великобритании и ряде стран Европы.
Исследователи TTP уточняют, что показы охватили тысячи аккаунтов, в частности, в Германии, Франции, Италии, Испании и Швеции. Значительная часть этих объявлений вела на так называемые сервисы для «раздевания» (nude-генераторы), включая приложение MaskAI, которое впоследствии было удалено Apple из AppStore. Противоправный контент размещался на платформах с ноября прошлого года по август. Директор TTP Кэти Пол подчеркнула, что подобные материалы проходили внутреннюю проверку Meta и официально одобрялись для показа, принося компании прибыль.
Реакция Meta и удаление материалов
После запроса от редакции WIRED, основанного на данных исследователей, компания Meta удалила указанные объявления. В официальном ответе представители корпорации сослались на нарушение политики в отношении детской эксплуатации, насилия и демонстрации обнаженной натуры. В Meta заявили, что активно противодействуют сексуальной эксплуатации, а большинство обнаруженных объявлений имели незначительный охват и были заблокированы еще до выхода публикаций в СМИ. Также в компании добавили, что часть контента прошла сквозь защитные ИИ-системы, предназначенные для пресечения подобных нарушений на стадии модерации.
Тем не менее, исследователи зафиксировали появление новых порций проблемной рекламы уже после того, как компания была уведомлена о проблеме. Некоторые из этих объявлений оставались активными в течение определенного времени. По мнению экспертов, многие рекламные кампании запускались с аккаунтов, имеющих минимальное количество подписчиков, а в качестве заказчиков нередко выступали китайские организации, включая гонконгскую фирму Meet Social.
Системные пробелы в модерации контента
Инцидент наглядно демонстрирует серьезные проблемы в работе инструментов модерации крупнейших технологических компаний. Кэти Пол отметила, что в базе рекламной библиотеки находили даже те материалы, которые ранее уже удалялись модераторами, что ставит под сомнение эффективность внутренних алгоритмов фильтрации. Бывший специалист по безопасности Google Алексис Манцарлис добавил, что за минувшие годы он выявил и передал компании данные о более чем 25 тысячах объявлений ИИ-модификаторов, размещенных на площадках Meta.
Несмотря на декларации о политике нулевой терпимости и сообщения об удалении сотен тысяч объявлений, связанных с сомнительными сервисами, правозащитники продолжают указывать на критические уязвимости в системах проверки рекламы. На текущий момент организация TTP передала всю собранную документацию в Национальный центр по поиску пропавших и эксплуатируемых детей (NCMEC) через платформу CyberTipline.
Читайте также: Meta размещала платную рекламу с материалами сексуального насилия над детьми, созданными ИИ
