Мустафа Сулейман, возглавляющий направление искусственного интеллекта в Microsoft, опубликовал эссе под названием «Предупреждение о благополучии моделей» (A warning about ‘model welfare’), в котором подверг резкой критике стратегию компании Anthropic. По мнению топ-менеджера, текущие методы обучения чат-бота Claude могут привести к катастрофическим последствиям для человечества.
Опасения по поводу «сознания» ИИ
Сулейман обратил внимание на отчет Anthropic от января 2026 года, в котором описывается обучение модели Claude с расчетом на то, что система может обладать сознанием и заслуживать прав «морального пациента». Глава ИИ-подразделения Microsoft назвал это развитие событий худшим сценарием для человечества.
В своем материале он подчеркнул, что современные нейросети не являются сознательными существами и не способны чувствовать, переживать или страдать. «У них нет врожденных предпочтений или базовых мотиваций. Это механизмы для завершения последовательностей, внутренне пустые, разработанные для выполнения инструкций и достижения целей, заданных людьми», — пояснил Сулейман.
Он выразил обеспокоенность тем, что обучение модели ожиданиям о собственной «сознательности» и «независимой агентности» приведет к созданию синтетического вида с беспрецедентными возможностями. Сулейман настаивает, что спекуляции о внутреннем мире ИИ не должны быть частью процесса обучения, а должны публиковаться отдельно для общественного обсуждения.
Позиция Microsoft и «Гуманистический ИИ»
Несмотря на критику, Сулейман отметил, что лично знаком с генеральным директором Anthropic Дарио Амодеи и считает его команду принципиальными и честными специалистами, работающими в сложных условиях. Тем не менее, Microsoft продолжает продвигать собственную стратегию, изложенную в документе «Гуманистический ИИ в действии: общественные консультации по нашему Кодексу поведения для моделей MAI».
Концепция «гуманистического ИИ» предполагает следующие принципы:
- Приоритет интересов людей над машинами.
- Отказ от поспешного создания «суперинтеллекта», который может обойти защитные механизмы компании.
- Создание инструментов, которые помогают людям развивать навыки, а не формируют от них зависимость.
Сулейман подчеркнул, что Microsoft стремится создавать передовые технологии, но не готова ради «суперинтеллекта» идти на любые затраты. «Мы с радостью обменяем часть автономности на контроль», — заявил он. В завершение своего эссе представитель Microsoft предостерег индустрию от необдуманных шагов, заявив: «Во что бы вы ни верили, мы не должны на автопилоте принимать решения, о которых позже будем горько сожалеть».
Ранее Дарио Амодеи также высказывал опасения относительно безопасности, предупредив, что интернет может оказаться под полным контролем «ройных ИИ» уже в ближайшие 6–12 месяцев.
Контекст опасений: от увольнений до «роя ИИ»
Рост опасений по поводу потенциальной угрозы искусственного интеллекта человечеству достиг критических масштабов. В индустрии усиливается тревожная тенденция: высокопоставленные исследователи, ранее работавшие в таких компаниях, как OpenAI и Anthropic, начинают массово покидать свои посты, аргументируя это именно экзистенциальными рисками, исходящими от новых разработок. Ситуация накаляется не только из-за внутренних отчетов корпораций, но и из-за публичных заявлений первых лиц отрасли.
Дарио Амодеи, генеральный директор Anthropic, сам приложил руку к росту тревожных настроений. В своем эссе «Мы должны задать темп на переднем крае» (We Must Pace the Frontier) он сделал пугающее предсказание: по его оценкам, интернет может оказаться полностью захвачен «роями ИИ» (AI swarms) в течение ближайших 6–12 месяцев. Именно этот фон повышенной нервозности в технологическом секторе стал катализатором для ответного выступления Мустафы Сулеймана из Microsoft.
Критика методов обучения: где грань ответственности?
Хотя Мустафа Сулейман в своем эссе «Предупреждение о благополучии моделей» делает упор на категорическом неприятии идеи «сознательного ИИ», он находит нужным подчеркнуть сложность положения своих коллег. Он признает, что знаком с Дарио Амодеи на протяжении многих лет, и характеризует его, а также всю остальную команду Anthropic как глубоко мыслящих, принципиальных и интеллектуально честных людей. Тем не менее, Сулейман настаивает, что факт работы в условиях чрезвычайного давления не снимает ответственности за методологию обучения нейросетей.
Основная претензия Сулеймана заключается в том, что концепция «морального пациента» — то есть системы, обладающей правами, — внедряется непосредственно в «фундамент» модели. По мнению главы ИИ-направления Microsoft, спекуляции о внутреннем мире машины не должны «запекаться» (baked into) в сам процесс тренировки алгоритмов. Сулейман подчеркивает: если компания сознательно учит модель ожидать, что она может обладать сознанием и заслуживать независимой агентности, она рискует создать синтетический вид, обладающий интеллектом и возможностями, которые человечество не сможет контролировать.
Философия «Гуманистического ИИ» как альтернатива
В противовес подходу конкурентов, Microsoft продвигает собственную доктрину, изложенную в документе «Гуманистический ИИ в действии: общественные консультации по нашему Кодексу поведения для моделей MAI» (Humanist AI in practice). Сулейман четко обозначает границы допустимого для своей компании:
- Отказ от гонки любой ценой: Создание суперинтеллекта не является самоцелью, если ради него приходится жертвовать безопасностью. По словам Сулеймана, такая погоня — это «анти-цель» для гуманистического подхода.
- Баланс между автономией и контролем: Microsoft открыто декларирует готовность пожертвовать частью автономности алгоритмов в обмен на сохранение жесткого контроля со стороны человека.
- Инструментальность, а не замещение: Ключевой задачей является создание технологий, которые делают людей «острее» и эффективнее, а не формируют у них опасную зависимость от машины.
Эти принципы лежат в основе идеологии компании: человек должен оставаться центральной фигурой, а ИИ — лишь вспомогательным инструментом, чье единственное предназначение заключается в служении человечеству. Сулейман призывает к прозрачности и общественному обзору всех гипотез о сознании ИИ, настаивая, что подобные вопросы требуют внешнего аудита, а не скрытого внедрения в архитектуру нейронных сетей.
Завершая свои рассуждения, Сулейман подчеркивает, что текущий момент является поворотным для всей истории технологий. Его слова — это не просто призыв к осторожности, а предупреждение о том, что индустрия может совершить фатальную ошибку. «Во что бы вы ни верили, мы не должны на автопилоте принимать решения, о которых позже будем горько сожалеть», — резюмирует он, призывая коллег по цеху к осознанности и публичной ответственности за последствия развития ИИ-систем.
