Отец Паоло Бенанти, священник и советник Католической церкви по вопросам искусственного интеллекта, выразил обеспокоенность тем, как крупные технологические лаборатории формируют дискурс вокруг развития ИИ. По его мнению, акцент на рисках появления «сверхразумного» интеллекта служит способом отвлечь внимание от необходимости установления контроля над разработчиками. Бенанти убежден, что крупные компании намеренно представляют проблему как чрезмерно сложную, тем самым исключая общество из процесса обсуждения правил.
Опасность корпоративного контроля и риски картельного сговора
Бенанти подчеркивает, что этика развития технологий не должна оставаться прерогативой совета директоров частных компаний. Священник настаивает на необходимости «демократического регулирования», где решения принимаются не узкой группой заинтересованных лиц, а в ходе публичных дебатов. Он открыто называет попытки отдельных корпораций диктовать правила игры в отрасли признаком формирования картеля.
Эксперт критикует как самих разработчиков, так и их подход к безопасности. В то время как лидеры индустрии призывают к замедлению темпов разработок, они преследуют собственные экономические цели в условиях жесткой конкуренции, включая соперничество между США и Китаем. В индустрии, где на кону стоят миллиарды долларов, любые заявления о «безопасности» могут быть продиктованы стремлением сохранить рыночное доминирование.
Критика сакрализации искусственного интеллекта
Советник Папы Римского также выразил недовольство тем, как в ИИ-индустрии описываются способности моделей будущего. Он считает опасным придание им «божественных» черт, упоминая высказывание главы OpenAI Сэма Альтмана о создании «магического интеллекта в небе». По мнению Бенанти, подобная риторика искажает восприятие реальности.
«Мы не создаем новую божественность. Мы просто обманываем себя, полагая, что за этим стоит нечто большее, чем статистические вычисления», — пояснил он. Он подчеркивает, что различие между человеком и машиной принципиально, и вопрос контроля над ИИ лежит в плоскости математики и этики, а не религии.
Позиция Католической церкви
Паоло Бенанти, являясь ученым в области философии и технологий, консультирует Церковь, но не выступает в качестве официального представителя Святого Престола. В мае текущего года Папа Римский опубликовал энциклику, полностью посвященную вопросам искусственного интеллекта. В документе понтифик критикует технократическую логику, где эффективность считается единственной мерой ценности, а человек рассматривается как «проект для оптимизации».
Папа Римский призвал сверхдержавы и технологические компании отказаться от борьбы за геополитическое и коммерческое доминирование ради общего блага. В энциклике подчеркивается риск того, что человечество может стать жертвой собственных достижений. Поддерживая этот курс, Бенанти настаивает, что человечеству необходимы «тормоза и рулевое управление», обеспечивающие эффективный контроль над машинами, вместо того чтобы полностью доверять будущее узкому кругу математиков и руководителей корпораций.
Ограничения и методы контроля: взгляд эксперта
В вопросах регулирования сферы ИИ Бенанти занимает отличную от многих коллег по индустрии позицию. Если гендиректор Anthropic Дарио Амодеи в своем эссе призывал к обязательным сторонним оценкам моделей перед их выпуском и к жестким мерам против дистилляции (процесса, при котором лаборатории обучают свои нейросети на результатах работы проприетарных моделей конкурентов), то другие эксперты настаивают даже на полном запрете рекурсивного самообучения, при котором ИИ использует навыки программирования для самостоятельной доработки будущих итераций. Бенанти же опасается, что чрезмерно жесткое ограничение методов разработки может задушить инновации.
Священник убежден: вместо борьбы с технологическими методами необходимо сосредоточиться на создании стандартов, которые гарантируют, что модели не выйдут из-под контроля человека. При этом он подчеркивает, что проектирование таких стандартов ни в коем случае не должно быть делегировано самим лабораториям. «Нарратив передовых лабораторий продиктован личными интересами, стремлением получить или удержать доминирующую позицию на рынке», — отмечает он. По мнению Бенанти, ситуация, когда группа компаний самостоятельно устанавливает правила игры для целой отрасли, является классическим определением картеля.
Экономические стимулы и «магия» технологий
Анализируя текущие заявления ведущих игроков, Бенанти указывает на необходимость скептического отношения к прогнозам о мощи будущих ИИ-систем. Он подчеркивает наличие сложного переплетения личных, политических и экономических интересов. Важным фактором является тот факт, что компании уровня OpenAI и Anthropic не только выступают за «замедление», но и готовятся к выходу на биржу, где ставки исчисляются десятками миллиардов долларов. Антагонизм между США и Китаем — главными аренами разработки передовых моделей — лишь дополнительно осложняет этот ландшафт.
Бенанти особенно критичен к тому, как индустрия наделяет ИИ атрибутами, обычно присущими божеству: всезнанием, непостижимостью и почти магическим могуществом. Такое отношение, по его мнению, уводит дискуссию от реальности. «Мы говорим о чем-то или о ком-то? Это ключевое различие. Здесь вопрос не в вере, а в строгой математике», — утверждает эксперт. Он подчеркивает, что вера в создание «цифрового божества» — это лишь самообман, скрывающий за собой процессы статистических вычислений.
Миссия церкви в технологическую эпоху
Вопрос о том, что именно отделяет человека от машины и как оградить будущие поколения от негативных последствий технологий, предоставляет религии новую роль в общественном поле. «Проживание вызовов своего времени — это неотъемлемая часть миссии Церкви», — утверждает Бенанти. Сам он, консультируя Церковь как философ и теолог, активно использует инструменты искусственного интеллекта в своей университетской преподавательской деятельности, помогая студентам создавать учебные материалы. При этом он оставляет за рамками публичного обсуждения вопрос о том, использует ли эти инструменты сам Папа, ссылаясь на то, что связан «клятвой о неразглашении».
Сам Папа в своей недавней энциклике, посвященной ИИ, выразил довольно пророческое опасение относительно «риска человечества стать жертвой собственных достижений». Этот документ стал призывом к глобальному сотрудничеству: по мнению понтифика, конкуренция за коммерческое и геополитическое доминирование должна быть отодвинута на второй план ради развития технологий, служащих общему благу. Бенанти опасается, что шумиха вокруг гипотетических экзистенциальных угроз и сценариев конца света лишь отвлекает внимание от этих насущных призывов, фактически принуждая общество делегировать решения о будущем технологий узкой группе лиц — руководителям ИИ-лабораторий и математикам, стоящим во главе этих проектов.
