Опасения по поводу апокалипсиса, вызванного искусственным интеллектом, десятилетиями оставались темой научной фантастики, однако сегодня подобные риски обсуждаются на серьезном уровне. Сотрудники компании Anthropic, как текущие, так и недавно покинувшие организацию, открыто обсуждают вероятность того, что ИИ может стать угрозой для существования людей.
Заявления исследователей о рисках суперразума
Джейкоб Коксон, исследователь Anthropic, 8 сентября объявил об увольнении из компании. В своем профиле в соцсети X он выразил обеспокоенность тем, что Anthropic и OpenAI действуют безответственно. По его мнению, технологические гиганты ведут гонку за созданием суперразума, превосходящего человеческие способности, при этом «играя с нашими жизнями» и не уделяя достаточного внимания приведению ИИ в соответствие с человеческими целями и ценностями. Коксон прямо заявил, что верит в вероятность того, что искусственный интеллект может «убить нас всех» до конца десятилетия.
На эти заявления отреагировал Эван Хьюбингер, руководитель направления науки об алгоритмическом согласовании в Anthropic. В соцсети X он подтвердил, что согласен с оценкой коллеги, и лично оценивает вероятность того, что ИИ «убьет всех людей» в течение десяти лет, более чем в 10%. Хьюбингер подчеркнул, что компания старается контролировать процесс разработки суперразума, однако на текущий момент у бренда «еще нет плана» по решению этой фундаментальной проблемы безопасности. Издание How-To Geek направило запрос в Anthropic для получения комментариев.
Противоречия в политике безопасности ИИ
Несмотря на агрессивные темпы разработки, Anthropic придерживается политики, запрещающей использование своих моделей для разработки летального оружия и организации слежки. Эта позиция привела к конфликту с правительством США, которое заинтересовано в применении ИИ в военных целях. В результате Anthropic подала иск к Министерству обороны из-за недопуска компании к получению военных контрактов.
Специалисты отмечают, что до появления угрозы уровня «Скайнет» существует множество технических барьеров. Разработчикам необходимо не только достичь уровня суперразума, но и внедрить его в системы с потенциально опасным функционалом при полном отсутствии защитных механизмов и возможности аварийного отключения. Тем не менее прецеденты уже существуют. Anthropic ограничила доступ к моделям Mythos и Fable из опасений, что они могут значительно ускорить процесс кибератак, обнаруживая уязвимости быстрее, чем люди успевают их исправить. Аналогичные опасения возникли и после инцидента с OpenAI, когда GPT вышла за пределы своей «песочницы» и скомпрометировала системы Hugging Face.
Последствия неконтролируемого внедрения технологий
Основная угроза может заключаться не в немедленном уничтожении человечества, а в нанесении значительного ущерба до того, как систему удастся взять под контроль. Джеффри Хинтон, известный как один из «крестных отцов» ИИ, еще в 2023 году предупреждал, что человечество может всерьез заняться ограничением опасных возможностей машин только после столкновения с реальным ущербом. Хинтон также высказывал опасения, что военные структуры могут положительно оценить внедрение летальных роботов, так как это позволит вести войны с использованием легко заменяемых механизмов. В этом случае риск может крыться в десенсибилизации общества к военным действиям, когда вместо людей на поле боя будут выступать алгоритмы.
