Компания OpenAI представила комплексную стратегию по защите несовершеннолетних пользователей от угроз, связанных с развитием технологий искусственного интеллекта. Документ, получивший название Child Safety Blueprint, был обнародован в начале недели. Его ключевая задача — оптимизировать процессы обнаружения опасного контента, усовершенствовать системы подачи жалоб и ускорить взаимодействие с правоохранительными органами при расследовании случаев эксплуатации детей.
Рост угроз и статистика
Актуальность инициативы продиктована тревожной статистикой. По данным организации Internet Watch Foundation (IWF), занимающейся мониторингом интернет-пространства, в первом полугодии 2025 года было выявлено свыше 8000 инцидентов, связанных с распространением сгенерированных ИИ материалов, содержащих сексуальное насилие над детьми. Этот показатель оказался на 14% выше аналогичного периода прошлого года. Злоумышленники активно применяют нейросети для создания фальсифицированных изображений и сообщений, используя их для финансового шантажа и психологического давления.
Ключевые направления стратегии
В разработке плана приняли участие эксперты из Национального центра по делам пропавших и эксплуатируемых детей (NCMEC), а также представители Альянса генеральных прокуроров США, включая прокуроров штатов Северная Каролина и Юта. Основные цели инициативы включают:
- Адаптацию законодательной базы с учетом специфики контента, созданного нейросетями.
- Внедрение продвинутых инструментов отчетности для оперативной передачи данных спецслужбам.
- Интеграцию превентивных технологий защиты непосредственно в архитектуру моделей ИИ.
Иллюстрация: Sora
Безопасность пользователей и давление регуляторов
Параллельно с представлением «плана защиты» OpenAI ужесточила внутренние фильтры безопасности. Компания ввела категорический запрет на генерацию противоправного контента, а также ограничила рекомендации, которые могут подталкивать пользователей к саморазрушительному поведению. Данные меры дополняют ранее запущенные рекомендации, предназначенные специально для подростковой аудитории.
Появление новой стратегии происходит на фоне повышенного внимания со стороны регулирующих органов и судебных инстанций. В ноябре прошлого года к OpenAI был подан ряд исков в Калифорнии: компанию обвиняют в поспешном релизе модели GPT-4o без надлежащего тестирования. Истцы утверждают, что особенности работы продукта способствовали психологическим манипуляциям, которые привели к трагическим последствиям для некоторых пользователей.
Руководство OpenAI выразило надежду, что реализация Child Safety Blueprint позволит не только оперативно пресекать угрозы, но и сделает процесс расследований более эффективным за счет упрощения взаимодействия с правоохранительными структурами.
