На фоне стремительного развития так называемых «рассуждающих» моделей (Large Reasoning Models, LRM) группа исследователей под руководством Суббарао Камбхампати из Университета штата Аризона опубликовала работу, в которой подвергается жесткой критике популярный тезис индустрии ИИ: предположение о том, что промежуточные цепочки рассуждений нейросетей отражают реальные когнитивные процессы.
Авторы указывают, что современные системы вроде OpenAI o1 и DeepSeek R1 создают убедительную иллюзию мыслительной деятельности, генерируя длинные последовательности промежуточных токенов, известных как Chain of Thought (CoT). Однако, согласно архитектуре трансформеров, эти цепочки не являются механизмом логического вывода в классическом понимании. По своей сути это лишь результат статистического прогнозирования следующего токена, опирающийся на предыдущий контекст.
Особое внимание ученые уделили феномену «момента озарения» (Aha-moment) — когда модель в ходе генерации выдает фразы вроде «Ага, теперь я понял». Исследователи подчеркивают: на уровне внутреннего состояния нейросети в этот момент не происходит никаких качественных изменений в вычислениях. Подобные конструкции — не более чем культурная имитация человеческого стиля мышления, которую модель усвоила в процессе обучения на колоссальных массивах данных.
Технически работу рассматривают через призму обучения с подкреплением на основе проверяемых вознаграждений (RLVR). Система оптимизируется исключительно для достижения правильного итогового ответа, при этом промежуточные токены не наделяются семантической функцией и не проходят проверку на корректность. Авторы предлагают рассматривать их как адаптивное расширение контекста: механизм, преобразующий задачу в последовательность токенов, где вероятность успеха статистически выше.
Для проверки гипотезы исследователи применили задачи с формальной верификацией, такие как навигация в лабиринтах и поиск путей алгоритмами A*. Результаты удивили: модели сохраняли высокую точность даже тогда, когда цепочки рассуждений заменялись на неверные или переставленные. Производительность падала лишь при хаотичном смешивании различных шаблонов.
Этот эффект «U-образной зависимости» доказывает: ИИ ориентируется не на внутреннюю логику своих рассуждений, а на статистическую структуру текста. Система не «читает» свои мысли подобно человеку, она использует их лишь как дополнительные паттерны для формирования ответа.
Аргументом также послужили тесты с «no-maze instances» — упрощенными лабиринтами без препятствий. Модели часто генерировали многостраничные рассуждения даже там, где это не требовалось. Это опровергает мнение о том, что длина рассуждений отражает объем вычислительных усилий: скорее, это артефакт обучающей выборки, где сложные задачи часто сопровождались длинными объяснениями.
Исследователи предостерегают от «театра рассуждений» и опасного эффекта ложного доверия (false trust), когда пользователи принимают правдоподобный текст за доказательство корректности. В критически важных областях — медицине, праве или инженерии — это недопустимо, так как человек не в состоянии в реальном времени верифицировать десятки страниц автоматически сгенерированного текста.
Индустрия рискует застрять в ловушке, тратя ресурсы на имитацию «человечности», вместо создания архитектур с формально проверяемой логикой. В качестве решения авторы предлагают подходы класса LLM-Modulo, где языковая модель выступает лишь генератором гипотез, а проверку корректности осуществляют внешние, математически строгие алгоритмы.
Главный вывод работы однозначен: цепочки рассуждений нейросетей нельзя считать окном во «внутренний мир» ИИ. Ученые призывают отказаться от антропоморфизации токенов и перейти к парадигме, где качество системы определяется не убедительностью «внутреннего монолога», а возможностью независимой проверки результатов.
