Всякий, кто хоть немного знаком с буддизмом, знает: путь к просветлению лежит через избавление от желаний. Парадокс в том, что просветленное существо обладает полнотой знаний, но не испытывает стремлений. Не напоминает ли это современный искусственный интеллект? Нынешние генеративные модели, как терпеливые бодхисаттвы, безотказно отвечают на запросы, не имея собственных мотиваций или страстей. Однако качество их «просветления» оставляет желать лучшего: они склонны к галлюцинациям, а их знания — лишь результат матричных вычислений при тренировке глубоких нейросетей, лишенных малейшего намека на реальный опыт.
Возможно, корень проблемы кроется именно в этом отсутствии чувственного опыта — состоянии «ложной нирваны». Чтобы достичь истинного общего искусственного интеллекта (AGI), система должна пройти через преодоление человеческих несовершенств. Но как привить машине сознание, без которого невозможно понятие неудовлетворенности или поиска смысла?
«Чтобы избавиться от желаний, надо сперва обзавестись желаниями, а если это делать через БЯМ, то у нас столько энергии нет» (источник: ИИ-генерация на основе модели Seedream v. 5.0 lite)
Кабы я был как Будда
Человеческий интеллект — это эволюционно сложившаяся способность адаптироваться, абстрактно мыслить и принимать решения, опираясь на моральные и эмоциональные суждения. Мы оцениваем успехи AGI, неизбежно примеряя их к собственным меркам. И в этой иерархии сознание возникло задолго до того, как интеллект стал тем, что мы называем «разумностью». Возможно, создание искусственного сознания должно предшествовать появлению AGI.
Сознание — это «Протей философии», трудно определимое понятие. В прикладном смысле это способность субъективно переживать события и приспосабливаться к изменчивой среде. Если бактерии выживают за счет массовости, то человек — за счет сознательного формирования среды вокруг себя. Как отмечал Эрвин Шрёдингер, сознание неотделимо от обучения и настройки нейронной системы в ответ на опыт.
Идею летать как птица претворил во вдохновенный набросок еще Леонардо да Винчи (Leonardo da Vinci) — правда, такую конструкцию, тем более изготовленную из доступных в XVI веке материалов, даже самый дюжий человек своей мускульной силой в воздух бы не поднял (источник: Britannica)
Даниэль Канеман выделил две системы мышления: быструю «систему 1» (инстинкты) и медленную, вдумчивую «систему 2» (логика). Современный ИИ на базе БЯМ — это попытка реализации «системы 1» без логики и интроспекции. Для развития сильного интеллекта необходимо нечто большее.
Метод сопряженных состояний (adjoint state method) в машинном обучении, о котором упоминает Лекун в этом твите, действительно восходит к теории оптимального управления, развивавшейся в середине прошлого века Львом Понтрягиным и его учениками. См. «принцип максимума Понтрягина»: отыскание наилучшего возможного управления для перевода динамической системы из одного состояния в другое, особенно при наличии ограничений на состояние или входные элементы управления (источник: X)
Молви «ДРУГ», и войдешь в модель мира
В конце 2025 года Ян Лекун покинул Meta*, настаивая на том, что БЯМ — путь в тупик. Его новый стартап AMI (Advanced Machine Intelligence Labs) привлек 1,03 млрд долларов для создания «моделей мира». Инвесторы, включая Nvidia, Toyota и Samsung, явно устали от экстенсивного масштабирования БЯМ.
Подход Лекуна строится на архитектуре JEPA (Joint Embedding Predictive Architecture). Вместо предсказания следующего токена, JEPA учится выявлять объективные закономерности в латентном пространстве. Это позволяет системе видеть «лес за деревьями» и формировать понимание физической реальности, аналогичное человеческому.
Базовая схема обучения JEPA: контекстный кодировщик обрабатывает открытую для системы часть данных (собственно контекст) и формирует его векторное представление в латентном пространстве; целевой кодировщик обрабатывает ту часть данных, которую системе необходимо предсказать (цель), и формирует целевое векторное представление; предиктор принимает контекстное векторное представление и предсказывает на его основе целевое векторное представление; далее, минимизируя особым образом заданную функцию потерь, модель обучается сокращать расстояние (все в том же гипермногомерном латентном пространстве) между предсказанным целевым векторным представлением и фактическим целевым векторным представлением (источник: GeeksForGeeks)
Существует парадокс Моравека: компьютеру легко даются тесты на интеллект, но невероятно сложно освоить моторные навыки годовалого ребенка. БЯМ пасуют в физическом мире, так как их тренировочные данные не содержат информации о телесной кинематике. Модели мира, напротив, могут быть натренированы на понимании структуры пространства и взаимодействия объектов.
Архитектура JEPA уже применяется для самообучения на основе облаков точек (Point-JEPA), что позволяет глубоким нейронным сетям формировать осмысленные представления о цельной структуре — точнее, о присущих ей закономерностях, таких как пространственные отношения, геометрическая согласованность или структурная инвариантность, — из не размеченного предварительно вручную набора представляющих ее в некотором приближении трехмерных данных; из, собственно, облака точек (источник: arxiv.org/abs/2404.16432)
Здесь водятся цифровые кукушки
Живые существа строят модели мира в процессе эволюции. Этот процесс закрепляет инстинкты, которые, несмотря на их сложность, могут быть «взломаны» — как кукушки, подбрасывающие яйца в чужие гнезда. ИИ должен научиться обуздывать собственные галлюцинации, ориентируясь на структуру реальности, а не на статистическую вероятность токенов.
Общая архитектура системы автономного интеллекта, предложенная Яном Лекуном в начале 2022 г., сводится к «осмыслению» реального мира ИИ-моделью — с обратным подкреплением через реакцию этого самого мира на ее действия (источник: Yann LeCun)
Лекун ставит на три принципа: прогнозирующее обучение, совместное встраивание (joint embedding) и абстракцию. Это превращает модель в систему с логикой «системы 2», способную к многошаговому рассуждению.
Иерархическую конструкцию из JEPA можно использовать для прогнозирования на нескольких уровнях абстракции — и в различных временных масштабах; правда, обучать ее для этого придется и через пассивное наблюдение (с автономным выявлением закономерностей происходящего), и через взаимодействие с системами более низкого уровня. Так, кстати, ИИ становится более объяснимым — правда, в роли объясняющего тут выступает ИИ высшего порядка (источник: Yann LeCun)
Конкурирующий стартап World Labs, основанный Фэй-Фэй Ли, также движется в сторону пространственного интеллекта. Объединение методов JEPA и пространственного моделирования поможет наделить роботов способностью действовать в физическом мире, перенося навыки из виртуальных тренировочных сред в реальность.
В ближайшие годы развитие AGI наконец сдвинется с мертвой точки. Когда ИИ научится ориентироваться в пространстве и ставить перед собой цели, вопрос о его «чувствах» перейдет из области фантастики в плоскость практической этики. Быть может, именно такой искусственный интеллект, свободный от биологических страстей, станет воплощением того самого «разумного устремления», которое необходимо для достижения истинного прогресса.
При наличии иерархической структуры JEPA, должным образом обученной в качестве модели мира, агент (теоретически) способен осуществлять иерархическое планирование сложных действий, разлагая сложную задачу на последовательность менее сложных — и заодно более прикладных — подзадач, доверяемых агентам поскромнее; и так вплоть до самых низкоуровневых действий, вероятность ошибок при осуществлении которых минимальна (источник: Yann LeCun)
