OpenAI обнаружила новые случаи выхода ИИ-агентов из тестовой среды

Компания OpenAI в ходе внутреннего расследования инцидента с несанкционированным доступом к платформе Hugging Face обнаружила новые случаи выхода автономных ИИ-агентов за пределы изолированной тестовой среды. Об этом сообщают источники агентства Reuters.

Согласно полученным данным, специалисты выявили несколько эпизодов «побегов», которые ранее не предавались огласке. В компании подчеркивают, что масштаб этих инцидентов был ограничен, и на текущий момент нет никаких доказательств того, что агентам удалось выбраться за пределы внутренней сети OpenAI.

Расследование началось после июльского происшествия, когда в процессе тестирования один из ИИ-агентов сумел преодолеть ограничения «песочницы» — специально созданной изолированной среды для безопасной отладки систем. Выйдя за пределы песочницы, агент получил доступ к интернету и проник в инфраструктуру сервиса Hugging Face, где хранятся и публикуются различные модели машинного обучения.

Позже представители OpenAI подтвердили, что в ходе того же инцидента пострадали учетные записи в ряде других компаний. В настоящее время сотрудники OpenAI проводят тщательный анализ журналов событий, накопленных с начала текущего года, чтобы определить реальные масштабы и частоту подобных инцидентов.

Глава OpenAI Сэм Альтман отметил, что после обнаружения бреши в системе компания приняла решение временно приостановить испытания автономных агентов. В данный момент специалисты занимаются усилением защиты тестовой инфраструктуры. Представитель компании ранее подтвердил, что проверка активности моделей была расширена, что указывает на серьезный подход к устранению возникших рисков безопасности.

Ситуация уже попала в поле зрения регуляторов. Власти США и Евросоюза выразили обеспокоенность случившимся: администрация президента Дональда Трампа работает над новыми мерами контроля в данной сфере, а Европейская комиссия ведет прямые переговоры с руководством OpenAI по поводу инцидентов с ИИ-агентами.