Исследователи в области кибербезопасности выявили новую опасную схему интернет-мошенничества, в которой злоумышленники используют возможности ChatGPT для привлечения жертв. Как сообщает сервис проверки безопасности Ask Silver, популярный чат-бот начал рекомендовать пользователям фишинговые сайты, созданные для кражи данных банковских карт.
Как работает схема с поддельными магазинами
Суть стратегии заключается в эксплуатации брендов, которые недавно прекратили самостоятельную работу или были выкуплены другими корпорациями. Такие марки сохраняют высокий уровень доверия и спрос среди аудитории, однако их официальные ресурсы часто перестают обновляться, меняют домены или закрываются. Именно в этот «вакуум» и проникают мошенники, регистрируя сайты-клоны.
Ярким примером стала британская сеть Russell & Bromley, которая завершила автономную деятельность в начале 2026 года после слияния с компанией Next. Злоумышленники оперативно создали высококачественную копию сайта и с помощью манипуляций добились того, чтобы алгоритмы ChatGPT начали выдавать этот фишинговый ресурс в качестве официального источника при запросах о товарах бренда.
Пользователи, доверившись рекомендации нейросети, переходили на ресурс, который визуально практически не отличался от оригинала, что провоцировало их на ввод платежных данных.
Изображение сгенерировано: Nano Banana
«Отравление данных» и риски для ИИ-агентов
Эксперты Ask Silver предполагают, что хакеры применяют методы «отравления данных» (data poisoning). Они массово размещают в сети контент, который искусственно повышает авторитет и рейтинг мошеннических страниц в глазах поисковых систем и нейросетевых моделей. В итоге ИИ начинает ошибочно классифицировать опасный ресурс как легитимный.
После обнародования проблемы компания OpenAI внесла корректировки в работу ChatGPT: теперь при запросах, связанных с Russell & Bromley, модель выдает предупреждение о потенциальных мошеннических сайтах, эксплуатирующих имя бренда для привлечения покупателей скидками.
Однако специалисты опасаются, что ситуация будет только усложняться. В ближайшем будущем ожидается массовое внедрение агентных ИИ-систем, которые будут не просто давать советы, но и совершать покупки в автоматическом режиме. Если злоумышленники научатся системно манипулировать данными, на которых обучаются модели, это поставит под угрозу финансовую безопасность миллионов пользователей.
Данный случай подчеркивает, что генеративный ИИ превращается в новую арену борьбы между цифровыми преступниками и разработчиками систем безопасности. Эксперты призывают пользователей к бдительности при совершении покупок через ссылки, полученные от любых чат-ботов.
