Надзорный совет Meta вновь выступил с жесткой критикой в адрес компании, заявив, что её текущие правила борьбы с ИИ-контентом являются «последовательно и фундаментально неадекватными» для защиты пользователей от стремительного роста глубоких подделок. В двух последних решениях, опубликованных экспертной группой, рассматривались инциденты, связанные с использованием сгенерированных видеороликов, наносящих вред репутации реальных людей.
Дела о злоупотреблении генеративным ИИ
Один из рассмотренных кейсов касается видео с участием шотландского политика. В ролике, созданном с помощью ИИ, голос и внешность человека были использованы для трансляции высказываний, оправдывающих преступления. Политик, чей образ был подделан, охарактеризовал влияние этого видео как «довольно травмирующее». Изначально Meta отказалась удалять контент, аргументируя это тем, что публикация не была отмечена «доверенными партнерами» и не влияла на электоральные процессы. Видео не имело маркировки о своем искусственном происхождении, так как автор не стал раскрывать способ его создания. Совет постановил, что материал подлежал удалению из-за нарушения политики компании в отношении враждебных высказываний, а также требовал обязательной пометки об использовании ИИ.
Второй случай связан с манипуляцией интервью, где героиней стала женщина, продвигающая просвещение в сфере женского здоровья. Оригинальная запись была изменена злоумышленниками для высмеивания героини, после чего видео распространилось в соцсетях. Первоначальный запрос на удаление и последующая апелляция были автоматически закрыты алгоритмами Meta без должного разбирательства. Администрация удалила ролик только после прямого вмешательства Надзорного совета, признав нарушение правил о травле.
Системные проблемы и реакция компании
По мнению сопредседателя Надзорного совета Памелы Сан-Мартин, подобные инциденты указывают на тревожную тенденцию: ИИ-дипфейки все чаще используются для преследования и попыток заставить женщин замолчать в публичном поле. Непоследовательная система маркировки контента лишь усугубляет наносимый вред, делая механизмы модерации неэффективными.
Критика со стороны совета не стала неожиданностью, так как группа, дающая рекомендации по политике Meta, на протяжении долгого времени призывает компанию пересмотреть подход к ИИ-материалам. На текущий момент Meta ограничивается лишь минимальными обозначениями «AI Info» (Информация об ИИ), которые зачастую незаметны для пользователей. Компания редко соглашается на реализацию предложенных советом изменений в области маркировки. В этот раз Meta не предоставила оперативного комментария, однако по регламенту у корпорации есть 60 дней, чтобы отреагировать на последние рекомендации. В их числе — требование приоритизировать проверку потенциального ИИ-контента при поступлении жалоб от пользователей.
Детали инцидентов и системные недочеты
В ходе анализа конкретных кейсов Надзорный совет выявил серьезные пробелы в протоколах модерации. Так, в случае со шотландским политиком, синтезированное видео содержало провокационное высказывание: «беженцы приветствуются здесь, даже если они насилуют наших женщин, потому что белые люди тоже это делают». Эксперты подчеркнули, что отсутствие обязательной маркировки в данном контексте ввело аудиторию в заблуждение, придав искусственно созданному контенту вид достоверного политического заявления.
Ситуация со вторым видео, где подверглась насмешкам волонтер, занимающаяся вопросами менструального здоровья, также выявила технологическую несостоятельность автоматизированных систем Meta. Вместо проведения ручной проверки контента, на который поступили жалобы, алгоритмы компании просто закрыли тикеты. И лишь после того, как в дело вмешался Надзорный совет, платформа признала нарушение правил в отношении травли и удалила ролик.
Почему женщины становятся главной мишенью
Сопредседатель Надзорного совета Памела Сан-Мартин в своем заявлении особо отметила гендерный аспект проблемы. По её словам, текущая ситуация демонстрирует тревожный паттерн: «Женщины, которые открыто высказываются по важным общественным вопросам, непропорционально часто становятся объектами харассмента и дезинформации». Использование дипфейков превратилось в эффективный инструмент для того, чтобы запугать таких спикеров и исключить их из публичной дискуссии.
Совет настаивает, что текущие меры Meta «последовательно и фундаментально неадекватны» для борьбы с этим потоком контента. Учитывая, что компания крайне неохотно внедряет рекомендации совета, эксперты выражают глубокое сомнение в том, что руководство Meta действительно обеспокоено вопросами защиты репутации пользователей от ИИ-манипуляций.
