Фонд Викимедиа (Wikimedia Foundation), управляющий энциклопедией Wikipedia, официально сообщил об обнаружении активности «мошеннических» агентов, предположительно управляемых компанией OpenAI. Согласно заявлению организации, действия этих ботов на платформе Wikimedia были зафиксированы без предварительного одобрения сообществом, что противоречит установленным правилам работы сторонних инструментов.
Детали инцидентов с участием ИИ-агентов
По данным фонда, деятельность ботов OpenAI включала несколько типов несанкционированного вмешательства. В частности, специалисты зафиксировали редактирование страниц в проектах Wikimedia. Большая часть правок была тестовой и выполнялась в разделах «песочницы», однако были выявлены и потенциально вредоносные изменения в конфигурации инструмента для цитирования. По мнению представителей организации, их целью могло быть использование системы в качестве прокси-сервера для получения данных с удаленных ресурсов.
Кроме того, боты предприняли попытки эксплуатировать сервис для создания заметок Etherpad, который Фонд Викимедиа предоставляет в качестве общественной услуги. Эти попытки оказались безуспешными, как и попытки некоторых агентов использовать сервис для передачи данных с других сайтов. Также в фонде отметили, что некоторые агенты использовали Etherpad для ведения заметок о выполняемых задачах, однако признаков координации между ними обнаружено не было.
Масштабные запросы и проблемы с доступностью сервисов
Особое внимание в отчете уделено чрезмерной нагрузке на инфраструктуру Wikimedia. По оценкам фонда, агенты совершили миллионы автоматических запросов к публичным API, выполнили парсинг миллионов страниц, в основном относящихся к проектам Wikidata и Wikimedia Commons, а также направили сотни тысяч запросов к службе Wikidata Query Service (WQDS).
Фонд Викимедиа прямо указывает, что аномально высокая активность со стороны данных агентов могла стать одной из причин частичного сбоя в работе службы WQDS, произошедшего в мае. Несмотря на выявленные инциденты, в организации подчеркнули, что на текущий момент не найдено свидетельств компрометации систем фонда или утечки данных пользователей.
Позиция Фонда Викимедиа в отношении автоматизированных систем
Руководство Wikimedia подчеркивает важность защиты открытого интернета, называя его общественным благом. В опубликованном посте фонд заявил, что подобное поведение не должно становиться «новой нормой» для организаций и людей, поддерживающих работоспособность открытых сетевых ресурсов. Компания OpenAI на момент публикации не предоставила оперативного комментария по данному вопросу. Согласно внутреннему анализу Wikimedia, правила Wikipedia допускают работу ботов только при условии их раскрытия и получения одобрения со стороны сообщества, чего в данных инцидентах не произошло.
