Шесть из девяти независимых экспертов, входивших в состав консультативного совета Global Internet Forum to Counter Terrorism (GIFCT), объявили о своей отставке в минувший понедельник. GIFCT представляет собой консорциум, в который входят крупнейшие технологические компании США, включая Meta, Microsoft и YouTube, и который занимается координацией усилий по противодействию распространению террористического контента в сети.
Конфликт вокруг реформы совета
Напряженность между экспертами и руководством GIFCT обострилась в июле, когда вице-президент Meta по контентной политике Нелл Маккарти направила консультантам письмо. В нем сообщалось о намерении компании «обновить» шестилетний комитет. Согласно новому плану, независимые эксперты больше не должны были анализировать эффективность мер технологических компаний по борьбе с насилием, а их роль в качестве наблюдателей фактически упразднялась. Кроме того, право выбора новых участников комитета переходило от действующих членов совета к представителям бизнеса, а сам орган лишался возможности коллективно оценивать деятельность консорциума.
В своем письме об уходе эксперты подчеркнули, что их попытки оспорить данную реформу были проигнорированы. Они заявили, что потеряли доверие к способности GIFCT выполнять свою миссию, охарактеризовав предложенные изменения как «декорацию» и «театр подотчетности». По мнению ушедших специалистов, орган, лишенный возможности проводить критический анализ и давать независимые оценки, не может считаться консультативным.
Реакция GIFCT и позиция сторон
Официальный представитель GIFCT, комментируя ситуацию, сообщил, что предложения по реорганизации не являются окончательными и были сформированы на основе нескольких раундов обсуждений. В консорциуме утверждают, что стремятся найти более эффективные способы взаимодействия с гражданским обществом и правительственными структурами, основываясь на принципах «многостороннего подхода».
Эксперты, покинувшие свои посты, среди которых были представители академических кругов и общественных организаций, выразили обеспокоенность тем, что отсутствие независимых критиков внутри организации негативно скажется на её работе в долгосрочной перспективе. Многие из них предпочли сохранить анонимность, опасаясь ответных мер со стороны политических сил США, включая представителей Республиканской партии и администрацию Дональда Трампа, которые ранее проявляли интерес к деятельности групп по модерации контента.
История деятельности GIFCT
Организация GIFCT была сформирована для координации обмена информацией об угрозах и помощи платформам в борьбе с экстремистским контентом, включая материалы, связанные с ИГИЛ. Однако деятельность форума неоднократно подвергалась критике. В 2024 году расследование издания WIRED выявило проблемы с эффективностью базы данных для обмена информацией, а также сложности во взаимоотношениях между руководством консорциума и экспертным советом.
На текущий момент в состав консультативного органа формально остаются включенными представители ООН и ряда правительств, включая Канаду и страны ЕС. Остается неясным, последуют ли они примеру своих коллег. При этом незадолго до массового увольнения весь состав из 17 человек направил Нелл Маккарти письмо с выражением несогласия по поводу ограничения независимости комитета. Согласно новому предложению, орган может быть переименован в «сообщество», что, по мнению экспертов, окончательно лишит его функций надзора за деятельностью IT-компаний.
Конфликт интересов и закулисные игры
Ключевым фактором, обострившим ситуацию, стали опасения экспертов относительно того, что GIFCT превращается в закрытую структуру, лишенную внешнего контроля. В своем письме ушедшие члены комитета прямо указали, что организация, которая не может подвергать критике действия своих участников, не является консультативным органом вовсе. По их словам, подобные реформы — это не что иное, как «декорация» и «театр подотчетности», предназначенные для создания видимости взаимодействия с экспертным сообществом без реальной возможности влиять на политику IT-гигантов.
Важно отметить, что Meta, председательствующая в операционном совете GIFCT, обладает существенным влиянием на принятие решений. Именно под эгидой Meta в июле был предложен план, по которому экспертам запрещалось бы высказываться по ключевым вопросам, таким как эффективность работы консорциума, его бюджет, операционная деятельность и действия отдельных технологических компаний. При этом, согласно расследованию WIRED, ранее внутренние процессы в GIFCT уже подвергались критике: например, было выявлено, что Meta затягивала заявку TikTok на вступление в консорциум, а база данных для обмена «сигналами» (tip-sharing database) систематически давала сбои, что снижало эффективность удаления опасного контента.
Технологические вызовы и роль ИИ
Острота ситуации подчеркивается тем, что работа GIFCT проходит на фоне усложнения ландшафта онлайн-угроз. Генеративный искусственный интеллект упростил создание контента, однако системы защиты (guardrails) пока недостаточно эффективны. Сегодня эксперты сталкиваются не только с наследием пропаганды таких организаций, как «Исламское государство» (ИГ, запрещенная в РФ террористическая организация), но и с новыми формами насилия: ИИ-поддерживаемыми схемами вымогательства (сексторшн), направленными на принуждение подростков к опасным действиям. Ряд чат-ботов уже неоднократно обвиняли в пособничестве насилию, что требует от GIFCT максимальной прозрачности и готовности к независимой оценке своих алгоритмов и стратегий.
Политическое давление и «страх перед репрессиями»
Один из покинувших пост экспертов отметил, что отмена независимого контроля может быть политически выгодной для участников консорциума в краткосрочной перспективе, но в долгосрочной — обернется серьезными последствиями. Примечательно, что решение экспертов остаться анонимными продиктовано реальными страхами перед нынешней политической конъюнктурой в США. В феврале текущего года Комитет по судебной власти Палаты представителей Конгресса США опубликовал отчет, в котором упоминались как сам GIFCT, так и организация одного из советников. В ходе последовавшей за этим встречи эксперты пытались выяснить у руководства консорциума (включая представителей Meta), как они планируют работать в столь агрессивной политической среде, где любые действия по модерации контента могут быть истолкованы как цензура, однако четких ответов не получили.
Исторический контекст и «голос совести»
Когда консультативный совет только создавался в 2020 году, его тогдашний исполнительный директор Ник Расмуссен подчеркивал, что эксперты должны выступать «совестью организации» и, если возникнет необходимость, «посылать всех к черту» (call bullshit), чтобы удержать консорциум от ошибок. За годы работы эксперты действительно способствовали расширению типов обмениваемых данных и повышению прозрачности работы форума. Однако, как отмечают ушедшие участники, в последнее время их мнение спрашивали слишком поздно, когда основные решения уже были приняты.
Переименование комитета в «сообщество» по задумке руководства GIFCT должно было символизировать переход к более широкому «многостороннему участию». Однако эксперты уверены, что любой новый участник, пришедший в это «сообщество» на данных условиях, очень быстро придет к тем же выводам, что и их предшественники. Один из экспертов резюмировал ситуацию так: «Мы будем ходить по кругу. Вполне вероятно, что модель GIFCT просто исчерпала себя».
