На фоне недавних событий в индустрии искусственного интеллекта разгорелись жаркие споры. Сначала экспертное сообщество обсуждало спор вокруг решения математической задачи стоимостью в миллион долларов: возникли подозрения, что OpenAI могла неправомерно использовать наработки других исследователей. Вскоре после этого сотрудник компании Anthropic, ранее работавший в OpenAI, публично уволился, выразив опасения по поводу подходов к безопасности ИИ. В ответ на это другой технический специалист Anthropic заявил, что многие сотрудники компании искренне верят в вероятность гибели человечества от рук ИИ, оценивая этот риск более чем в 10% в ближайшее десятилетие.
Оценка «математического спора» и роль корпораций
Тимнит Гебру, известный исследователь в области технологий и ИИ, подвергла резкой критике текущие приоритеты компаний. По её мнению, акцент на решении задач в таких областях, как математика, программирование и шахматы, является лишь способом доказать превосходство «суперинтеллекта». Гебру отмечает, что если бы OpenAI следовала общепринятым процедурам проверки в математическом сообществе, эксперты могли бы объективно оценить значимость и новизну заявленного прорыва.
Исследовательница ссылается на Лейденскую декларацию, предостерегающую от использования математики корпорациями в целях продвижения собственных интересов. Гебру подчеркивает, что политики начинают опираться на пресс-релизы компаний, вместо того чтобы консультироваться с профессиональными математиками. Она связывает такую поспешность с жесткой конкуренцией перед предстоящими IPO, где исследователи вынуждены работать в лихорадочном темпе, теряя дух сотрудничества, который ранее был нормой.
Критика нарратива об экзистенциальной угрозе
Комментируя увольнение инженера Anthropic и дискуссию о «конце цивилизации», Тимнит Гебру называет подобные опасения бессмысленными. В своей работе она придерживается идеи о том, что существующие модели ИИ требуют не философского анализа на предмет «разумности», а прагматичного контроля за их создателями. В своей будущей книге Deep Unlearning: The Rise of AI and the Radicalization of a Tech Idealist она сравнивает ИИ с мостом: когда сооружение обрушивается, анализируют не этичность моста, а компетенцию строителей и качество проведенных тестов.
Гебру утверждает, что «нарратив о машине-боге» используется как удобное прикрытие. По её словам, реальные угрозы уже существуют: развитие автономных систем вооружений, негативное воздействие на климат и использование ИИ как инструмента для увольнения сотрудников. Она отмечает, что обсуждение «сингулярности» ведется десятилетиями, и зачастую люди даже не могут отличить высказывания об ИИ 1940-х годов от современных заявлений, настолько они похожи.
Реальные риски против вымышленных апокалипсисов
Тимнит Гебру подчеркивает, что привилегированное положение многих представителей индустрии не позволяет им осознать угрозы, которые уже затрагивают значительную часть общества. Вместо обсуждения гипотетических сценариев, где нейросеть «убивает всех», эксперт призывает обратить внимание на вполне конкретные проблемы:
- Нарушения прав человека и полицейский произвол с использованием технологий.
- Уязвимости в цепочках поставок продовольствия.
- Реальную возможность создания химического оружия.
Гебру убеждена, что увлечение идеей всемогущего ИИ — это стратегия, призванная отвлечь общественность от того, какие именно последствия несет развитие технологий уже сегодня. В то время как индустрия напоминает культ верующих в неизбежный конец света, реальные опасности, связанные с разработками компаний, остаются вне фокуса широкого обсуждения.
Проблема «математического вопроса» и авторитет науки
Тимнит Гебру задается вопросом: почему компании фокусируются именно на математике, программировании и шахматах? По её словам, в технологической культуре эти дисциплины искусственно возведены в ранг критериев, которые якобы доказывают достижение «общего интеллекта» (AGI). Выбирая подобные задачи, OpenAI стремится сформировать у публики простой нарратив: «Мы решили задачу — значит, мы создали сверхчеловеческий разум». По мнению исследовательницы, если бы претензии компании прошли через стандартный процесс рецензирования математическим сообществом, которое оценивает новизну и вклад каждого участника, общественность получила бы более ясное представление о том, насколько реален этот «прорыв».
Гебру также указывает на деградацию исследовательской среды. Если раньше, во времена её работы в Google, специалисты свободно сотрудничали с коллегами из Microsoft или Amazon, то теперь атмосфера стала «лихорадочной» и конкурентной. Причиной тому — приближающиеся IPO, заставляющие компании спешить с громкими заявлениями. Этот темп настолько высок, что политики переходят к законодательным инициативам, основываясь лишь на пресс-релизах, не дожидаясь выводов независимых экспертов. Это, по словам Гебру, крайне опасная тенденция.
Аналогия с мостом и вопрос ответственности
В своей будущей книге Deep Unlearning: The Rise of AI and the Radicalization of a Tech Idealist, выход которой ожидается в начале следующего года, Гебру предлагает радикально иной взгляд на безопасность ИИ. Она задает риторический вопрос: «Может ли мост решить, что ему пора обрушиться?» Когда случается катастрофа, инженеры не анализируют «этичность» или «сознание» моста — они расследуют, кто его построил, почему он оказался ненадежным и какие этапы сертификации были пропущены. Дискуссии о том, что модели могут «стать неуправляемыми» или «выйти из-под контроля», по её мнению, уводят нас от главного: кто стоит за разработкой этих хрупких систем и какие разрешения на их использование были выданы.
Религиозный подтекст и привилегии
Тимнит Гебру отмечает, что индустрия ИИ сегодня превратилась в смесь культов, где ключевые фигуры ведут себя как проповедники, предрекающие конец света. «Сингулярность» обещают уже несколько десятилетий. У исследовательницы есть игра: она зачитывает людям цитаты об ИИ из 1940-х и 1950-х годов и просит угадать десятилетие. Часто люди не справляются, потому что риторика не меняется — она остается неизменной десятилетиями.
Гебру убеждена, что одержимость апокалиптическими сценариями — это симптом крайней социальной привилегированности. Если человек не сталкивается в повседневной жизни с реальными угрозами — полицейским насилием, отсутствием доступа к еде, наводнениями или пожарами — он начинает одержимо фантазировать о «машине-боге». Она указывает на абсурдность популярных вопросов: «Может ли ИИ загипнотизировать меня, чтобы я его не выключил?» или «Придет ли ко мне домой злой GPU?». Вместо этого она призывает сосредоточиться на доказанных фактах, таких как вред от автономных систем вооружений, уже используемых в реальных военных конфликтах, и потенциальное разрушение цепочек поставок продовольствия.
Важно отметить, что опасения Гебру имеют под собой почву: вскоре после интервью компания Anthropic действительно подтвердила, что заблокировала несколько попыток ученых использовать их модели для создания биологического оружия. Это доказывает, что реальные угрозы, связанные с вредоносным применением ИИ, гораздо ближе, чем мифическое «восстание машин».
