OpenAI в математике: конфликт с академическим сообществом
Последние несколько лет компания OpenAI активно осваивает область высшей математики. На этой неделе организация объявила о достижении, которое считается одним из самых значимых в науке — решении одной из «Проблем тысячелетия». В нормальных обстоятельствах подобное событие было бы встречено как исторический прорыв, однако многие математики наблюдают за успехами OpenAI с нарастающей тревогой. По их мнению, компания ведет себя как интервент с неисчерпаемыми ресурсами, вторгающийся в дисциплины, которым ученые посвятили жизнь, и пренебрегающий устоявшимися нормами и последствиями для профессионального сообщества. Фундаментальный конфликт заключается в целях: математики стремятся к развитию науки, в то время как OpenAI стремится к победе в конкурентной гонке.
Истоки противостояния и позиция Тристана Бакмастера
Издание The Verge пообщалось с более чем десятком экспертов, включая профессора Нью-Йоркского университета Тристана Бакмастера и исследователя из Anthropic Левента Альпоге, оказавшихся в центре недавних споров. Даже те математики, которые скептически относятся к наиболее серьезным обвинениям, признают, что отрасль потрясена поведением техгиганта, решимость которого сокрушить конкурентов вызывает опасения.
Тристан Бакмастер обвинил OpenAI в нежелании прояснить, могла ли его работа с инструментом Codex способствовать успехам компании. Официальный представитель OpenAI Лоранс Фоконе категорически отвергла эти подозрения: «Мы можем заявить, что подсказки (промпты), введенные доктором Бакмастером в Codex за последние два месяца, никак не могли повлиять на систему, включая процесс обучения». Бакмастер остается при своем мнении: «Учитывая их поведение до этого момента, к таким заявлениям стоит относиться с большим скепсисом».
Решение задачи Навье — Стокса: гонка за первенство
Напряженность достигла пика из-за слухов. В OpenAI узнали, что ряд исследователей близки к решению «Проблем тысячелетия», и решили проверить, справится ли с этим одна из их передовых, еще не выпущенных моделей. Результат оказался положительным: компании потребовалось около 10 000 агентов, десятки миллионов долларов вычислительных мощностей и всего 88 часов, чтобы найти решение задачи Навье — Стокса, касающейся движения жидкостей. При этом в компании выяснили, что их главными соперниками в этой гонке были Тристан Бакмастер и Левент Альпоге из Anthropic — одного из основных конкурентов OpenAI. Несмотря на то что Альпоге заявлял о «личном сотрудничестве» с Бакмастером, не связанном с работой в Anthropic, его участие стало для OpenAI проблемой.
Переговоры и обвинения в подкупе
Бакмастер утверждает, что связался с OpenAI, узнав о том, что компания отслеживает их прогресс и стремится первой прийти к решению. По его словам, дискуссии с исследователем OpenAI Себастьеном Бубеком стали спорными и, с точки зрения Бакмастера, угрожающими. Однако компания предложила ему выход: завершить работу без участия Альпоге. Бакмастер заявил, что ему предложили практически «неограниченные вычислительные мощности» для окончания собственного исследования и возможность стать единоличным автором публикации OpenAI, объявляющей о прорыве (с указанием инструментов компании). «Все, что мне нужно было сделать — это «подставить» Левента», — сообщил Бакмастер в интервью.
Бакмастер отверг это предложение, расценив его как «взятку», и начал задаваться вопросом, не получила ли OpenAI преимущество благодаря его работе с инструментом Codex. OpenAI отрицает, что кто-либо или какой-либо агент имел доступ к его пользовательским данным, хотя ранее компания допускала, что не может исключить вероятность использования данных, полученных в ходе работы с продуктами, для улучшения моделей. В итоге Бакмастер решил обнародовать как свои научные результаты, так и информацию о поведении OpenAI. Его кабинет превратился в подобие «военного штаба», где коллеги помогали проверять математические выкладки, координировать действия и даже связываться с юристами.
Конфликт интересов: математика против амбиций Big Tech
Себастьян Бубек отверг интерпретацию событий, представленную Тристаном Бакмастером в социальных сетях и интервью The New York Times. При этом он признал, что предлагал Бакмастеру ресурсы OpenAI для завершения его собственного доказательства или же передачу прав на оформление корпоративного проекта OpenAI. Примечательно, что Бубек заявил о существовании аналогичных договоренностей OpenAI с другими математиками, имен которых он не раскрыл. Тем не менее его позиция проясняет, что аффилиация Мелике Альпёге с Anthropic стала серьезным препятствием: «С нашей точки зрения, как мы можем иметь внутренний проект OpenAI с сотрудником Anthropic?» — подчеркнул он в беседе с изданием.
Охота за премией тысячелетия
Если цель компании — доказать превосходство своих моделей в математике, то решение одной из семи задач премии тысячелетия, учрежденной Математическим институтом Клэя в 2000 году, является одной из самых значимых наград. Эти задачи считаются одними из самых сложных в области, и за решение каждой из них полагается вознаграждение в 1 миллион долларов. К моменту учреждения премии многие из этих проблем уже десятилетиями подвергались тщательному анализу, однако за прошедшие 25 лет была решена лишь одна — гипотеза Пуанкаре, топологическая задача о трехмерных сферах. Для ИИ-компаний такие задачи являются невероятно притягательными целями.
По мнению Бакмастера и ряда других математиков, опрошенных The Verge, это объясняет агрессивное поведение OpenAI, когда стало известно, что другие исследователи близки к разгадке — особенно если в процесс вовлечена конкурирующая ИИ-компания. Бакмастер, опираясь на свой опыт сотрудничества с Google DeepMind, убежден: техгиганты одержимы решением великих задач и стремлением «опередить всех». В этом мире существует острая фиксация на престиже, славе, первенстве и публичной демонстрации этого успеха. «Это единственная валюта», — утверждает он.
Разрыв между академической наукой и корпоративной гонкой
Бакмастер считает, что в гонке корпораций за решением громких задач часто теряются сами математики — не только те, чей накопленный труд делает возможными прорывы, но и сама мотивация заниматься математикой. Хотя некоторые и могут гнаться за престижем, большинство не являются «охотниками за трофеями». Андраш Юхас, профессор математики Оксфордского университета, описывает дисциплину как элегантный сплав науки и искусства, где движущими силами выступают красота, удовольствие от процесса и чувство открытия, а не немедленное практическое применение. В отличие от учебных упражнений, в передовой математике нет предписанного пути к ответу, поэтому идеи, которые ведут к решению, и авторы этих идей имеют первостепенное значение.
Для Бакмастера его диалог с Бубеком стал олицетворением пропасти между миром фундаментальной математики и Big Tech. Ссылаясь на записи, сделанные во время общения, он вспоминает, как исследователь OpenAI был шокирован его словами: «Я видел лицо Себастьяна. Он был поражен, когда я сказал, что меня не интересует премия тысячелетия». Подобную ментальность Бакмастер встречал и ранее.
История с Андреасом Томом и вопросы к OpenAI
Бакмастер — не единственный математик, обеспокоенный методами OpenAI. Андреас Том, профессор Дрезденского технического университета, в прошлом месяце оказался в центре спора после того, как OpenAI анонсировала математический результат, основанный на его работе с Габором Куном. Компания внесла правки в публикацию, признав вклад ученых, но сделала это тихо, не сопровождая процесс официальным объявлением. Том назвал этот опыт «не самым приятным», однако до публичного выступления Бакмастера старался забыть об этом эпизоде. Теперь же заявления коллеги заставили его вернуться к вопросу о том, могли ли его беседы с ChatGPT об исследовании использоваться для улучшения моделей, которые в итоге решили задачу, над которой он трудился годами.
Проблема интеллектуальной собственности и конкуренции с ИИ
По мнению математика Тома, только OpenAI обладает информацией, необходимой для ответа на вопрос о том, как именно были достигнуты результаты, но он подозревает, что «они сами этого не знают». Он отмечает, что люди, которые обучают модели и используют их для получения математических выводов, — это «другой тип людей». Для него это вряд ли является оправданием неопределенности: «Потому что это фактически означает, что им на самом деле все равно, верно?». Перспектива конкуренции с могущественными ИИ-компаниями, чьи ресурсы значительно превосходят возможности академических исследовательских групп, может сделать ученых еще менее склонными к решению амбициозных задач.
Это напряжение отражает конфликты, уже разворачивающиеся в других сферах. Писатели, музыканты, художники и медиакомпании бросают вызов ИИ-фирмам из-за систем, построенных на огромных массивах созданного людьми контента, зачастую без разрешения, признания авторства или компенсации. Несмотря на то, что математика кажется обособленной областью, фундаментальный вопрос остается прежним: что компании должны людям, чей накопленный труд был использован для создания их систем? В случае с Томом вопрос остается нерешенным.
OpenAI не ответила на вопрос The Verge о том, могли ли данные из бесед Тома и его коллег с ChatGPT способствовать решению, построенному на его работе. В более широком смысле Том выразил возмущение тем, что считает неспособностью признать «коллективные усилия, которые все это сообщество вложило во все результаты исследований», лежащие в основе недавних математических достижений ИИ. По его словам, компании «просто используют это так, как будто это ничего не стоит», и такое отношение ему не нравится.
Масштабирование конкуренции и риск «промышленного шпионажа»
Математики не чужды конкуренции, а история дисциплины полна споров о приоритете открытий. Однако, хотя конкуренция не исключает сотрудничества, нынешние соперники не являются обычными. Исторически «перехват» открытия в математике был затруднен, так как лишь немногие обладали достаточной экспертизой, чтобы быстро вникнуть в суть прорыва. Компании, занимающиеся ИИ, работают в ином масштабе.
Исследователи опасаются, что корпорации могут превратить «перехват» в своего рода промышленный процесс, против которого математики будут бессильны: компании способны мгновенно задействовать тысячи агентов и колоссальные вычислительные мощности, как только появится информация о приближающемся прорыве. Бакмастер считает, что OpenAI могла бы легко сотрудничать с исследователями, а не устраивать гонку за результатами. Фактически компания была готова к работе с ним, но препятствием стал Альпоге, а точнее, его связи с Anthropic. «Они так спешили опубликовать работу, чтобы опередить Anthropic, что едва заметили исследователей, оказавшихся между ними», — заявил Бакмастер.
Статус «тысячелетних задач» и реакция научного сообщества
Несмотря на спешку, OpenAI не узнает, выиграла ли она «Премию тысячелетия» за решение задачи Навье-Стокса, в течение нескольких лет. Математический институт Клэя требует двухлетнего периода с момента публикации результата, в течение которого он должен получить «общее признание в мировом математическом сообществе». На данный момент задача Навье-Стокса находится в странном подвешенном состоянии: институт исключил ее из списка нерешенных проблем, но еще не объявил решенной, отмечая, что процесс является «намеренно неспешным».
Тем временем OpenAI переключила внимание. В заявлении для The Verge представитель OpenAI Фоконе заявила: «С момента завершения работы над задачей Навье-Стокса мы добились существенного прогресса в решении другой задачи из списка премии» и теперь «работаем над тем, как вдумчиво поделиться этими результатами». Какая именно проблема имеется в виду, неясно. В социальных сетях высказываются неподтвержденные предположения, что это может быть гипотеза Ходжа, касающаяся понимания сложных геометрических фигур через простые строительные блоки. Также ходят слухи, что Anthropic близка к решению собственной задачи из списка премии.
По мере того как два гиганта ИИ соревнуются за математические трофеи, они обнаруживают, что одних лишь ошеломляющих результатов недостаточно, чтобы заслужить доверие сообщества, которое они трансформируют. Математики начинают оказывать сопротивление. Многие из тех, с кем общался The Verge, даже сторонники ИИ, обеспокоены тем, что компании оказывают подавляющее воздействие на исследования, заставляя ученых скрывать незавершенные работы из страха, что кто-то другой может их опередить. Ряд коллег пересматривают практику составления списков важных нерешенных проблем, опасаясь, что полезный для науки ресурс станет списком целей для ИИ-корпораций. Сопротивление становится все более публичным.
Лейденская декларация и растущее недоверие к AI-корпорациям
В июне математики опубликовали Лейденскую декларацию — свод принципов ответственного использования искусственного интеллекта в математике. Документ получил одобрение Международного математического союза, а число его подписантов достигло почти 3900 человек, увеличившись примерно на 500 участников с середины августа.
Декларация призывает политиков, правительства, СМИ и другие группы не поддаваться «хайпу», подогреваемому компаниями, которые «преувеличивают возможности своих продуктов». На фоне разгоревшегося спора вокруг Премии тысячелетия компания OpenAI отозвала спонсорство студенческого математического хакатона в Калтехе. Это решение последовало за жестким противодействием со стороны сообщества, критиковавшего вмешательство корпоративных интересов и выражавшего опасения, что мероприятие приведет к потоку низкокачественной «математической халтуры».
Обеспокоенность академического сообщества
Шинг-Тунг Яу, профессор математики Университета Цинхуа в Китае, почетный профессор Гарварда и лауреат престижной Филдсовской премии, поделился с The Verge своими опасениями относительно влияния ситуации на молодых исследователей. «Работа над сложными задачами и без того сопряжена со значительными рисками для аспирантов и молодых преподавателей», — отметил он. По его мнению, перспектива конкуренции с мощными AI-компаниями, чьи ресурсы значительно превосходят возможности академических групп, может сделать молодых ученых менее склонными к решению амбициозных задач.
Яу отказался комментировать обвинения в том, что OpenAI могла использовать работы исследователей без разрешения, однако выступил в поддержку независимого расследования для установления всех обстоятельств. В более широком смысле профессор опасается, что отсутствие прозрачности и спешка в погоне за первыми анонсами могут стереть информацию об интеллектуальной преемственности научных прорывов. По его словам, признание в математике должно отражать интеллектуальный вклад, а не то, у кого был больший бюджет на вычислительные мощности или кто громче всех сделал заявление.
Кроме того, Яу указал на еще одну проблему: OpenAI и другие разработчики ИИ занимают двойственное положение, выступая одновременно и поставщиками исследовательских инструментов, и самими исследователями. «Это вызывает серьезный конфликт интересов», — заявил ученый, подчеркнув, что компании могут извлечь выгоду из привилегированного доступа к незаконченным и неопубликованным работам своих пользователей. «Это опасение заслуживает содержательного ответа и не должно просто отмахиваться как от обычной конкуренции», — добавил он.
Атмосфера страха и отсутствие доверия
Значительная часть растущего беспокойства сводится к вопросу доверия. Математикам не обязательно принимать на веру самые громкие обвинения против OpenAI, чтобы испытывать тревогу по поводу компании, которая одновременно предоставляет им рабочие инструменты и является их конкурентом. «Честно говоря, я не думаю, что какие-либо заявления о безопасности данных или что-то подобное действительно решат проблему», — сказал математик Том. — «Я им просто не доверяю». Аналогичного мнения придерживается Бакмастер: «Почему мы должны доверять хоть чему-то, что они говорят?»
По словам Бакмастера, реакция коллег на его публичное выступление была преимущественно положительной, однако в ней прослеживался и другой подтекст — страх. Изначально он хотел поблагодарить тех, кто поддержал его, когда он публично рассказал о своем опыте, но отказался от этой идеи, так как многие выразили дискомфорт из-за того, что их имена могут быть публично связаны с этим делом. «Реальность такова, что математики действительно боятся их», — сказал Бакмастер, имея в виду AI-компании. Страх вряд ли можно назвать прочным фундаментом для построения продуктивного и здорового исследовательского сообщества.
При этом Бакмастер не уверен, что это волнует сами корпорации. «Им нет никакого дела до нас как до сообщества», — заключил он. — «Все это — лишь мелочная драма между двумя компаниями стоимостью в триллион долларов, которые ведут себя как дети».
Помимо общих опасений относительно методов конкуренции, в научном сообществе всё острее звучит вопрос о влиянии ИИ на преемственность в науке. Исследователи отмечают, что математика — это дисциплина, в которой развитие происходит путем создания новых методов и техник, зачастую более важных, чем сами решаемые проблемы. Существует опасение, что «промышленный» подход корпораций к решению задач за счет колоссальных вычислительных мощностей лишит поле этих фундаментальных интеллектуальных связей. Если успех определяется лишь объемом затраченного бюджета, а не оригинальностью метода, история и методология науки могут быть обесценены.
Критики также указывают на то, что OpenAI и Anthropic оказались в двусмысленном положении: они одновременно предоставляют математикам инструменты для работы и вступают с ними в прямую гонку за приоритет. Шинг-Тунг Яу подчеркивает, что это создает серьезный конфликт интересов. Поскольку компании имеют доступ к данным, которые пользователи вводят в их продукты, возникает риск использования неопубликованных наработок ученых для «дообучения» систем. По словам экспертов, подобная практика требует содержательного ответа со стороны руководства техгигантов, а не простого отрицания претензий или ссылки на «обычную конкуренцию».
Особое внимание в дискуссиях уделяется тому, как эти процессы меняют психологический климат в университетах. Ряд математиков признались, что из-за страха перед «перехватом» идей они стали более скрытными, перестали делиться промежуточными результатами и даже начали сворачивать программы по публикации списков нерешенных задач, которые ранее служили ориентиром для всего сообщества. Страх превратился в ощутимый фактор, препятствующий открытому обмену знаниями, который на протяжении веков был фундаментом академической среды.
Даже среди тех, кто конструктивно относится к внедрению ИИ в математический поиск, нарастает скепсис. Андреас Том отмечает, что любые заверения компаний в безопасности данных воспринимаются с недоверием, так как корпоративная культура Big Tech в корне отличается от академической. В академической среде ценностью являются доказательство и истина, тогда как для компаний «единственной валютой» стали престиж, скорость и медийная победа над конкурентами. Это несовпадение ценностных систем делает диалог между учеными и разработчиками крайне затруднительным.
В этой атмосфере недоверия любое «превышение полномочий» со стороны корпораций воспринимается как атака на само сообщество. История с отзывом спонсорства хакатона в Калтехе стала лишь верхушкой айсберга, показав, что научная молодежь и эксперты готовы к активному противодействию, если увидят в действиях компаний попытки навязать «математическую халтуру» или подчинить фундаментальную науку целям корпоративного PR.
