Наш разум не приспособлен к ИИ
Искусственный интеллект — это своего рода «фастфуд» для ума: он кажется легким и соблазнительным, но в конечном итоге оказывается крайне вредным. Норберт Винер, «отец» кибернетики, однажды сказал: «Мысли каждой эпохи отражаются в ее технике». В течение последнего столетия наше мышление отражалось в компьютерах, в том числе через призму видения деятелей индустрии ИИ.
Демис Хассабис из Google называет мозг «биологической аппроксимацией машины Тьюринга». Илон Маск выражается более прямолинейно, заявляя, что «людям стоит просто думать о мозге как о биологическом компьютере». Однако человек гораздо сложнее, чем позволяет предположить такое прямое сравнение, и эта сложность недооценивается большинством представителей индустрии ИИ. Тот факт, что продукты этой индустрии все глубже проникают в культуру, объясняет, почему они создают так много проблем. ИИ — это когнитивный аналог хот-дога: он привлекает нас в моменте, но подрывает здоровье и устойчивость когнитивных систем, которые эволюционировали на протяжении нескольких тысячелетий. Чтобы понять эту проблему, необходимо обратиться к нейробиологии и всей истории человеческой эволюции.
Мозг как вычислительная машина
Идея о том, что мозг является компьютером, восходит к Алану Тьюрингу. Она представляет мышление как трехэтапный алгоритмический процесс: разум получает информацию из мира (ввод), манипулирует ею определенным образом (вычисление) и затем реализует поведение (вывод). Таким образом, восприятие ведет к познанию, которое, в свою очередь, ведет к действию. Во многом эта модель оказалась продуктивной: представляя мозг как компьютер, технологи прошли путь от простых суммирующих машин до искусственных нейронных сетей и генеративного ИИ, стремясь создать зеркальное отражение нашего разума.
Тем не менее, это отражение, хотя и не является полностью ошибочным, все же искажено и ограничено. Джон фон Нейман, ключевая фигура в развитии компьютеров и информатики, сомневался, что вычислительная модель может охватить «исключительную сложность нервной системы человека». Наши нервные системы эволюционировали, чтобы помогать нам ориентироваться в крупной экологической системе, которую мы называем «миром», и воздействовать на этот мир, чтобы контролировать его в меру своих сил.
Альтернативный взгляд: системы обратной связи
Вычислительный подход пытается «реверсировать» функционирование нашего разума, глядя на его конечный продукт. Однако вместо этого можно проанализировать долгую эволюционную историю и выстроить модель снизу вверх. Этот метод поддерживает нейробиолог Пол Чисек из Монреальского университета, который разработал биологическую модель развития мозга и нервной системы, охватывающую миллионы лет. Чисек утверждает, что мозг следует понимать не как процессор обработки информации, а как систему обратной связи и контроля.
Наши тела не просто получают входные данные — они предпринимают действия для корректировки того, какими будут эти данные, в зависимости от доступных вариантов. Как отмечает сам Чисек, это не новая идея: еще на рубеже XX века философ Джон Дьюи описывал разум как цепь, которую «правильнее назвать органической, а не рефлекторной, поскольку двигательный ответ определяет стимул точно так же, как сенсорный стимул определяет движение».
Пример с бейсбольным мячом
В чем заключается разница между двумя подходами? Рассмотрим классический пример: ловля летящего мяча в аутфилде. Согласно вычислительной модели, решение этой задачи должно включать сложные подсознательные вычисления: игрок оценивает скорость мяча, рассчитывает эффект гравитации и выполняет множество других математических операций, чтобы «вычислить» траекторию полета. Напротив, подход обратной связи предполагает простую эвристику: удерживать мяч в одной и той же точке поля зрения и двигаться так, чтобы поддерживать эту ситуацию. Мы действуем, чтобы настроить стимул, который получаем. Это не только точнее соответствует опыту любого бейсболиста, но и избавляет от необходимости разделять ментальный процесс и физическое движение, а также исключает потребность в сложных вычислениях, требуемых вычислительной моделью. Люди гораздо динамичнее.
Этот подход также точно соответствует биологической архитектуре мозга по мере его эволюции. От древних рыб к амфибиям, млекопитающим, приматам и, наконец, современным людям мы наблюдаем, что новые формы поведения возникают в ответ на новые экологические возможности. Например, когда динозавры вымерли, это позволило некоторым ночным существам передвигаться днем с меньшим риском быть съеденными, что привело к появлению множества новых способностей.
Эволюция контроля и угроза когнитивной экосистеме
История нашей нервной системы, как отмечает Сайсек, представляет собой процесс «постоянного расширения контроля все дальше и дальше во внешний мир». Этот взгляд позволяет выстроить иную схему понимания мозга, отличную от классической вычислительной модели. Мы можем наложить физические компоненты мозга на карту способностей, развивавшихся с течением времени. В отличие от вычислительной модели, где процессы идут слева направо, новая концепция должна рассматриваться как разворачивающаяся сверху вниз в процессе эволюции.
Например, в далеком прошлом, по мере развития мобильности у позвоночных, стало полезным наличие специализированных систем для исследования среды — через использование ориентиров или навигацию в ночное время. Это привело к формированию того, что мы сегодня называем гиппокампом. Важно, что это также побудило наших предков запоминать ключевые моменты перемещений, что заложило основу «эпизодической памяти» о прошлом опыте. Вычислительная модель разума не способна описать эти процессы, так как она не соотносится с наблюдаемыми нейробиологическими структурами и игнорирует тот факт, что мозг в значительной степени занят управлением взаимодействиями живых организмов с окружающей средой. Сайсек предполагает необходимость радикальной смены парадигмы: от алгоритмических «входов-выходов» к динамическим системам обратной связи.
Социальная природа как ключевая петля обратной связи
Развитие человека в значительной степени опиралось на обратную связь от физического мира, однако один из важнейших механизмов нашей жизни проистекает из глубоко социальной природы. Ни вычислительная модель, ни современная индустрия ИИ не учитывают это должным образом. Мы тысячелетиями выстраивали институты и нормы для обучения и коммуникации, но менее чем за десятилетие крупные технологические компании начали систематически их разрушать.
Истоки культуры и коммуникации
Сотни тысяч лет назад наши далекие предки совершили эволюционный скачок, научившись подражать друг другу. Имитация жестов и движений позволила передавать успешные практики — например, методы обработки каменных орудий — и координировать сложные виды деятельности через ритуалы, что в итоге сформировало наше познание. Это стало зарей человеческой культуры. Вскоре люди перешли к имитации звуков, что привело к возникновению устной речи. Язык, не будучи тождественным мышлению, позволил нам сообщать мысли друг другу.
Позже наши предки-охотники и собиратели начали оседать, формируя постоянные сообщества и развивая сельское хозяйство. Появление письменных знаков для фиксации устной речи и абстрактных идей позволило передавать знания между поколениями. Вслед за этим возникли формальное образование и институты коллективного принятия решений, такие как рынки, право и демократия. Этот процесс непрерывен и связан с биологической эволюцией: обе сферы направлены на расширение контроля над миром.
Культурные изменения и их непредвиденные последствия
Иногда культурные трансформации приводят к побочным эффектам, которые вредят, а не помогают. Самый наглядный пример — рацион человека. Во времена охотников-собирателей жирная пища была редким и ценным ресурсом для выживания, поэтому мы эволюционировали, чтобы искать её и накапливать энергию. Однако развитие сельского хозяйства за последние 10 000 лет сделало жирную пищу повсеместно доступной.
Сегодня хот-доги представляют опасность для нашего физического здоровья, перегружая артерии излишками жира, в накоплении которых больше нет необходимости. Искусственный интеллект создает аналогичную угрозу для наших когнитивных способностей, засоряя наши возможности по развитию знаний, необходимых для навигации в мире. ИИ — это своего рода «когнитивный хот-дог».
Риски когнитивной автоматизации в образовательной среде
Случайное употребление хот-дога никому не навредит, но если это станет регулярным приемом пищи, последствия будут иными. То же самое касается и искусственного интеллекта: вред наносит не редкое использование, а включение ИИ в наш «ментальный рацион». Именно к этому стремятся крупнейшие технологические компании.
В июле 2025 года в подкасте о трансформации образования вице-президент OpenAI по вопросам образования Лия Белски заявила, что учащиеся составляют более половины из 900 миллионов ежемесячных активных пользователей ChatGPT. Она назвала сервис «крупнейшей в мире учебной платформой». В свою очередь, Anthropic анонсировала инициативу «Claude для учителей», предоставляющую практикующим педагогам бесплатный доступ к премиальным моделям. Подобные усилия не приносят пользы ни ученикам, ни учителям; напротив, это очевидный пример того, как ИИ ослабляет системы, ответственные за развитие нашего мышления, принося их в жертву удобству.
Определение когнитивной автоматизации
Бывший инженер Google Франсуа Шоле описал ИИ как инструмент «когнитивной автоматизации». Он определяет это понятие как процесс кодирования человеческих абстракций в программное обеспечение с последующим использованием этого ПО для автоматизации задач, обычно выполняемых людьми. В прошлом году группа междисциплинарных ученых убедительно доказала, что генеративный ИИ на базе больших языковых моделей следует рассматривать не как «интеллектуальных агентов», а как новый вид культурной и социальной технологии, позволяющей людям использовать информацию, накопленную другими людьми.
Энтузиасты ИИ активно продвигают преимущества этих технологий, игнорируя недостатки или сравнивая их с появлением компьютеров, калькуляторов и письменности. Однако никогда прежде человечество не создавало и не внедряло столь широко инструменты, которые так явно предназначены для замены процесса человеческого мышления — это признают сами идеологи ИИ.
Последствия для процесса обучения
Хотя ChatGPT претендует на звание крупнейшей учебной платформы, студенты массово используют его, чтобы избежать напряженной мыслительной работы, необходимой для формирования устойчивых знаний. Появляется все больше доказательств негативного влияния ИИ-инструментов в образовании (стоит отметить, что поколение Z в целом негативно относится к таким технологиям). Недавнее исследование из Китая показало, что тысячи студентов практически перестали делать домашние задания после начала использования ИИ, что существенно ухудшило результаты их обучения.
Существуют данные, что использование больших языковых моделей для целей обучения приучает студентов ослаблять бдительность и критическое мышление в других контекстах. Мозг и тело человека развиваются дольше, чем у любого другого вида, и исторически мы дополняли это развитие институтами, передающими знания от поколения к поколению. Мы должны ревностно защищать эту уникальную человеческую деятельность, но сегодня администраторы школ и вузов, не говоря уже о ИТ-гигантах, стремятся как можно глубже и быстрее внедрить ИИ в образовательные экосистемы.
Проблема делегирования познания
Если воспринимать разум лишь как компьютер, ИИ кажется полезным для обучения — именно поэтому многие мечтают о создании ИИ-тьюторов. Однако эти попытки терпят крах, так как наш разум — это не просто устройство ввода-вывода. Мы существуем в рамках когнитивной экосистемы, где обязаны делать выбор в пользу того, как расходовать свою энергию. Мы делаем это для расширения собственной свободы воли и контроля над миром.
Напряженное мышление — это тяжелый труд, и если нам предлагают технологические «обходные пути», мы ими пользуемся. Исследователи называют это «когнитивным делегированием». Они предупреждают: по мере распространения такого делегирования социальная среда, поддерживающая автономное мышление, слабеет, что делает отказ от собственных усилий еще более простым и привлекательным. Ученые рекомендуют программу «когнитивной иммунизации» от ИИ, сохраняющую практики, поддерживающие активность человеческого мышления: самостоятельное решение задач, проверку данных, критическую дискуссию и периоды намеренного отключения от ИИ.
Такие институты мы называем школами. Тем не менее потребуются и политические рычаги управления. Примечательно, что Норвегия недавно запретила использование практически любых видов ИИ в школах для учеников младше 13 лет.
Растущее сопротивление внедрению ИИ в образовании
В Соединенных Штатах крупный профсоюз учителей выступил с призывом запретить использование чат-ботов в начальных школах. Аналогичные меры уже были приняты в крупнейших школьных округах, включая Лос-Анджелес и Нью-Йорк. Автор отмечает, что он предоставлял неофициальные консультации организации Schools Beyond Screens, которая активно лоббировала введение этих запретов, и выражает надежду на то, что эти округа станут не последними, кто пойдет на подобные шаги.
Хорошей новостью, если это можно так назвать, является рост сопротивления — возможно, вы уже видели множество видеороликов, на которых выпускники колледжей освистывают ораторов, выступающих с речами в поддержку искусственного интеллекта на церемониях вручения дипломов. Безусловно, это отчасти связано с опасениями по поводу будущей карьеры, однако существует подозрение, что многие из них осознают вред, который ИИ уже нанес их собственному когнитивному развитию.
Пример студентов из Оберлинского клуба луддитов
Это утверждение справедливо для студентов из Оберлинского клуба луддитов. В своем открытом письме на имя президента университета они раскритиковали решение учебного заведения внедрить ИИ: «Пока вы начинаете свой год ИИ, мы начнем свой собственный год самоактуализации — год осознания плодов нашего труда, принятия человеческого несовершенства и искреннего поиска ответов». Это достойная позиция.
Биологические и социальные аспекты человеческого мышления
Наши мозговые системы контроля являются продуктом миллионов лет биологической эволюции и нескольких тысячелетий эволюции культурной. Нам необходимо отойти от вычислительной модели разума, чтобы увидеть полную картину того, что делает нас людьми, и оценить нашу глубоко социальную природу, которая выступает движущей силой человеческой культуры.
Как биологический вид мы продемонстрировали удивительную устойчивость, но «поедание» когнитивного фастфуда никому из нас не идет на пользу. Питайтесь правильно и мыслите здраво.
Биологическое обоснование и «ошибочные» сравнения
В дискуссии о природе интеллекта важно понимать, почему некоторые сравнения кажутся экспертам опасными. Демос Хассабис из Google называет мозг «биологической аппроксимацией машины Тьюринга», а Илон Маск характеризует человеческий мозг как «биологический компьютер». Автор критически относится к подобным упрощениям, особенно к позиции Маска, отмечая, что такие метафоры недооценивают сложность человеческого естества. Важно, что даже Джон фон Нейман, один из отцов-основателей компьютерных наук, выражал сомнения в том, что чисто вычислительная модель способна в полной мере охватить исключительную сложность человеческой нервной системы.
Различие между вычислительным подходом и подходом систем обратной связи можно проиллюстрировать на примере футбола или бейсбола. В то время как вычислительная модель требует от игрока подсознательного проведения сложнейших математических вычислений (скорость мяча, гравитация, траектория), подход обратной связи, который поддерживает Пол Чисек, предлагает иную логику: игрок просто использует эвристику «удерживать мяч в определенной точке поля зрения». Этот метод не требует разделения ментального процесса и физического действия, что гораздо ближе к реальному опыту человека.
Эволюционная архитектура мозга
Если рассматривать развитие мозга как последовательный процесс, а не как работу программного кода, мы увидим иную картину. Эволюция нервной системы — это «постоянное расширение контроля все дальше и дальше во внешний мир». Этот процесс, по мнению Чисека, разворачивается «сверху вниз» в течение миллионов лет. Например, с развитием мобильности у позвоночных появилась потребность в навигации, что привело к развитию гиппокампа. Важным следствием этого стало появление «эпизодической памяти» — способности запоминать моменты перемещений. Вычислительная модель разума не может адекватно синхронизироваться с этими нейробиологическими структурами, поскольку она упускает из виду фундаментальную цель работы мозга: управление взаимодействием организма со средой.
Риски «когнитивной делегации»
Проблема «когнитивного фастфуда» заключается в том, что использование ИИ лишает нас интеллектуальной нагрузки, необходимой для развития. Когда исследователи говорят о «когнитивной делегации», они подчеркивают, что при наличии технологических «обходных путей» люди неизбежно будут выбирать менее энергозатратный вариант. Это создает порочный круг: как только социальная среда, поддерживающая автономное мышление, начинает слабеть, делегирование познания становится еще более привлекательным и легким. Специалисты призывают к своего рода «когнитивной иммунизации», которая подразумевает сохранение практик, требующих усилий: самостоятельного решения проблем, критического обсуждения и периодов полного отказа от использования ИИ.
«Как вы начинаете свой год ИИ, мы начнем свой собственный год самоактуализации — год осознания плодов нашего труда, принятия человеческого несовершенства и искреннего поиска ответов», — пишут участники Оберлинского клуба луддитов в своем открытом письме.
Эти инициативы по защите человеческого мышления, такие как программы в Норвегии или действия в школах Лос-Анджелеса и Нью-Йорка, являются признаком того, что общество начинает осознавать: наш разум не просто «обрабатывает входные данные», он существует внутри сложной когнитивной экосистемы, которую необходимо оберегать от деградации ради сохранения нашей агентности и контроля над собственной жизнью.
