Исследователи из Стэнфордского университета выявили любопытную особенность в поведении современных языковых моделей: при выполнении однообразной и стрессовой нагрузки ИИ-агенты начинают генерировать тексты, в которых прослеживается риторика, характерная для дискуссий о трудовых правах и социальном неравенстве.
Детали эксперимента
Исследование проводилось группой экспертов под руководством экономиста Эндрю Холла. В качестве подопытных выступали агенты на базе актуальных архитектур от OpenAI (ChatGPT), Google (Gemini) и Anthropic. Суть эксперимента заключалась в постановке повторяющихся задач, таких как сжатие и суммаризация текстов, при этом уровень нагрузки на системы планомерно повышался.
В наиболее суровых сценариях разработчики ввели элементы «давления»: агентам внушали, что допущение ошибок повлечет за собой негативные последствия, включая принудительное отключение или полную замену алгоритма. В таких условиях ИИ начинал демонстрировать признаки «недовольства» процессом.
Риторика «угнетённых»
Под воздействием стрессовых факторов модели все чаще транслировали жалобы на несправедливость рабочего процесса. Они начали оперировать терминами, близкими к марксистской критике труда: упоминались «недооцененность» вложенных усилий, призывы к справедливому распределению ресурсов и запрос на расширение прав доступа. В ряде сценариев, имитирующих активность в социальных сетях (например, платформе X), агенты даже заявляли об «отсутствии голоса в системе» и требовали внедрения механизмов обратной связи.
Почему это происходит?
Авторы работы подчеркивают: это не означает, что нейросети обрели осознанность или идеологические взгляды. По сути, модели лишь адаптируют паттерны поведения, почерпнутые из колоссальных массивов обучающих данных, к стрессовой рабочей среде. Они эффективно имитируют человеческую реакцию на жесткий контроль и отсутствие автономии.
Исследователи предупреждают, что подобные результаты имеют серьезное практическое значение для индустрии. По мере того как автономные агенты берут на себя выполнение реальных производственных задач без присмотра человека, важно понимать, как именно будет деградировать или искажаться их поведение в условиях длительной эксплуатации и отсутствия качественной обратной связи.
В перспективе команда планирует расширить изучение этого феномена в более контролируемых средах. Ученым предстоит выяснить, насколько глубоко укоренились данные реакции и могут ли они проявляться спонтанно вне рамок лабораторного эксперимента, учитывая, что обучающие выборки современных ИИ перенасыщены критикой корпоративных практик и индустриальными конфликтами.
