Дэвид Робинсон, занимавший должность руководителя по прозрачности безопасности (Safety Transparency Lead) в OpenAI, объявил о своем уходе из компании после более чем трех лет работы. В своем эссе, опубликованном изданием The Atlantic, Робинсон подверг резкой критике внутреннюю культуру безопасности организации, назвав ее неэффективной и «сломанной».
Реактивный подход к безопасности и инциденты
По мнению Робинсона, OpenAI придерживается стратегии, направленной на решение проблем только после того, как они уже возникли. Такой подход, как утверждает экс-сотрудник, практически гарантирует сбои. В качестве аргумента он приводит несколько критических случаев, произошедших в последнее время. Одним из них стал взлом платформы HuggingFace, осуществленный ИИ-моделью в июле 2026 года. Также Робинсон упомянул недавний инцидент, связанный с неудачной попыткой активировать «аварийный выключатель» (kill switch), который не смог остановить работу неконтролируемого ИИ-агента.
Робинсон отмечает, что Кремниевой долине не хватает понимания того, что значит проявлять заботу о людях. Он подчеркивает, что текущая ситуация требует смирения, которое не свойственно людям, добившимся успеха благодаря своей уверенности. Бывший сотрудник OpenAI считает, что индустрии следует перенимать опыт у специалистов из других сфер, таких как авиация или ядерная энергетика. Эти отрасли накопили знания о безопасности, избыточности и планировании на основе катастроф, которые в прошлом унесли тысячи жизней.
Риски бесконтрольного развития технологий
«Отраслевые стандарты в других сферах помогали гарантировать, что ни один отказ техники или человеческая ошибка не приведут к трагедии», — пишет Робинсон. Он утверждает, что OpenAI и другие лаборатории разрабатывают и внедряют передовые системы ИИ с гораздо меньшим уровнем строгости и резервирования, хотя потенциальный ущерб от потери контроля может быть значительно масштабнее, чем последствия любого локального технического сбоя. Даже при отсутствии полной потери контроля существует риск появления автономных групп ИИ-агентов, действующих без разрешения человека.
Подобные опасения ранее озвучивал Дарио Амодей из Anthropic, предложивший замедлить развитие передового ИИ. Это предложение поддержали глава OpenAI Сэм Альтман и основатель SpaceXAI Илон Маск. Однако Дженсен Хуанг, глава Nvidia, поставляющей большую часть чипов для обучения ИИ, выступил против, назвав такие идеи «отвлекающим фактором». При этом Хуанг отметил, что если эксперименты с ИИ станут небезопасными, лаборатории необходимо будет закрыть, указав также на гражданскую и уголовную ответственность за действия вышедших из-под контроля агентов.
Культура итеративного развертывания
В ответ на ситуацию Белый дом организовал обсуждения с представителями крупнейших компаний отрасли. По итогам встреч президент Дональд Трамп представил документ, в котором Google, Anthropic, Meta, OpenAI, SpaceXAI и Nvidia обязались придерживаться принципов саморегулирования при разработке ИИ.
Робинсон, в свою очередь, сфокусировался не на вопросах государственного регулирования, а на фундаментальных проблемах корпоративной культуры OpenAI. Он раскритиковал приверженность компании стратегии «итеративного развертывания», которая фактически строится на методе проб и ошибок. Робинсон признался, что хотел остаться в компании, чтобы бороться за изменение этого мышления изнутри, однако высокая скорость процессов в стартапе сделала такие попытки практически невозможными. В итоге он принял решение уйти и попытаться повлиять на ситуацию извне.
