Научные журналы столкнулись с беспрецедентным наплывом публикаций, созданных с помощью генеративного искусственного интеллекта. Если раньше тексты, написанные нейросетями, выдавали себя абсурдными логическими ошибками, странными лингвистическими конструкциями или вымышленными ссылками, то современные инструменты научились создавать крайне убедительные работы. Сегодня эксперты и редакторы профильных изданий бьют тревогу: система классического рецензирования (peer review) не справляется с потоком сгенерированного контента.
Массовая фабрикация и проблема цитирования
Масштаб проблемы наглядно иллюстрирует случай Питера Дегена из Цюрихского университета. Ученый обнаружил, что его старая работа по статистическому анализу медицинских данных внезапно начала стремительно набирать цитирования. Дальнейшее расследование показало, что статью использовали как базу для сотен автоматизированных «исследований». Подобные публикации создаются путем «просеивания» открытых баз данных, таких как Global Burden of Disease (масштабное исследование факторов риска, травм и заболеваний).
Алгоритмы перебирают тысячи статистических корреляций, сопоставляя, например, различные виды продуктов питания с показателями заболеваемости, до тех пор, пока не находят формально значимую связь. Полученный результат оформляется как полноценная научная статья.
Иллюстрация: Nano Banana
Эволюция ИИ-авторов
Редактор издания Scientific Reports Мэтт Спик отмечает, что прогресс в этой области произошел стремительно. Еще недавно системы выдавали комичные ошибки, такие как фраза «reinforcement getting to know» вместо «reinforcement learning». Однако современные агенты ИИ способны на куда более сложные действия:
- Самостоятельный анализ сырых данных.
- Формулировка научных гипотез.
- Написание текстов с корректными ссылками и выверенными графиками.
Специалисты из Университета Карнеги-Меллона подчеркивают: даже когда ИИ использует сомнительные методы анализа или выдумывает первичные данные, итоговый документ выглядит настолько профессионально, что распознать подделку на этапе первичного скрининга становится крайне сложно.
Кризис системы рецензирования
Ситуация осложняется тем, что академический мир оказался не готов к такому темпу производства контента. Традиционное рецензирование базируется на добровольном и неоплачиваемом труде экспертов. Редакторы признаются, что им приходится рассылать по 20 приглашений, чтобы найти хотя бы двух рецензентов, готовых взять на себя проверку очередной рукописи.
В основе кризиса лежит существующая система стимулов: престиж исследователя, шансы на получение гранта и финансирование университета часто зависят от количественных показателей — числа публикаций и индекса цитирования. Издательства, в свою очередь, получают прибыль через публикационные сборы.
Согласно исследованию, опубликованному в журнале Nature, ученые, активно внедряющие ИИ-инструменты в рабочий процесс, публикуют в среднем в три раза больше материалов, чем их коллеги. Это превращает генеративный ИИ в конвейер научных публикаций, который всерьез угрожает способности научной среды отделять прорывные открытия от информационного шума.
