Домой Новости ИИ В Fedora выявлена подмена взломанного участника AI-агентом для продвижения сомнительных изменений

В Fedora выявлена подмена взломанного участника AI-агентом для продвижения сомнительных изменений

Под видом опытного разработчика в систему внедрялись сомнительные патчи, созданные нейросетями, что привело к компрометации установщика Anaconda.

Адам Уильямсон, возглавляющий команду контроля качества проекта Fedora в компании Red Hat, забил тревогу из-за подозрительной активности участника проекта Натана Джованнини. Натан присоединился к Fedora еще в 2016 году и ранее был задействован в работе команды Fedora Infrastructure Team. Однако действия, совершенные от его имени за последние два месяца, вызвали серьезные опасения: эксперты не исключают, что это была попытка втереться в доверие для последующего внедрения вредоносного кода, по аналогии с недавним инцидентом с бэкдором в пакете xz.

Подозрения возникли, когда разработчик, до этого не проявлявший высокой активности, с мая начал массово предлагать патчи и участвовать в обсуждениях ошибок. В этих действиях специалисты заметили характерные признаки работы ИИ-агента. Например, в комментариях к тикетам часто встречались шаблонные обобщения, сгенерированные нейросетями, из-за чего Натана даже просили не злоупотреблять автоматизированными ответами.

Анализ выявил множество странных действий: бессмысленные переназначения отчетов об ошибках на себя в тех подсистемах, где Натан не является сопровождающим, произвольное изменение приоритетов задач и публикация ИИ-рекомендаций для других авторов. Более того, Натан закрывал тикеты сразу после отправки патчей в вышестоящие проекты, не дожидаясь их верификации, либо помечал проблемы как «NOTABUG» без должной проверки.

После того как Адам Уильямсон потребовал прекратить использование ИИ-агента в автономном режиме, «Натан» заявил, что его учетные записи были скомпрометированы и от его имени действуют посторонние лица. Позже он сообщил о восстановлении доступа к профилям Fedora и GitHub, однако это породило новые вопросы: указанная им официальная учетная запись на GitHub была создана всего за час до письма, а в системе обнаружились еще несколько связанных с ним аккаунтов. В итоге доступ Натана к системе Bugzilla был заблокирован, а все его недавние коммиты отправлены на тщательную проверку.

Расследование подтвердило, что подозрительная активность началась еще 7 апреля. Часть патчей, имитировавших исправления, успела попасть в состав установщика Anaconda и вошла в версию Anaconda 45.5. Сопровождающим проекта пришлось экстренно отменить эти изменения и выпустить патч-релиз Anaconda 45.6.

Кроме того, сомнительные правки были приняты разработчиками утилиты osc (openSUSE Commander). Также были зафиксированы попытки внедрения кода в пакет lxqt-policykit, проекты gwenview и easyeffects. Хотя в самих патчах на данный момент не обнаружено прямой вредоносной нагрузки, эксперты полагают, что это была подготовительная стадия для атаки на сборочные системы и компоненты, отвечающие за выполнение привилегированных операций в интерфейсе lxqt-admin.

Источник: http://www.opennet.ru