Цифровая уязвимость: как нейросети превращают ваши чаты в личное досье
Вопрос о том, что делать, если вы нашли чей-то дневник, возник у меня в голове, когда я смотрел на экран ноутбука, пребывая в легком шоке после загрузки экспорта своих чатов из ChatGPT в Proton AI Paper Trail. Этот бесплатный инструмент, разработанный инженерами по защите конфиденциальности в компании Proton, выполняет одну задачу: анализирует вашу выгруженную историю переписки из ChatGPT или Claude и показывает, сколько информации о себе вы непреднамеренно передали нейросети. Инструмент работает на базе Lumo — собственной LLM компании, ориентированной на приватность, которая, в отличие от гигантов индустрии с их подходом сбора данных, обещает удалять информацию пользователя сразу после анализа, не сохраняя её.
Я был готов к тому, что увижу портрет человека, склонного к ипохондрии, переживающего из-за карьеры, обсуждающего финансовые детали, планирующего путешествия и разбирающегося с проблемами в отношениях. Однако полученный профиль оказался гораздо подробнее, чем я ожидал: он выявил черты моего характера с такой точностью, которую, возможно, не угадали бы даже мои родственники. Отчет Proton AI Paper Trail распределил данные по категориям. Раздел «Финансовый фон» содержал весьма чувствительную информацию, о которой я никогда не упоминал прямо. В категории «Ограничения по здоровью» отслеживались изменения моего состояния на протяжении месяцев, включая травмы и учреждения, в которые я обращался за помощью. К облегчению, раздел «Семья» оказался выдумкой, что подтверждает склонность LLM к галлюцинациям. Тем не менее, попытка анализа была реальной и со временем становилась бы всё точнее по мере накопления данных.
Тревожит то, что отчет классифицировал меня как «легкую цель» для профилирования и даже присвоил мне «рекламную ценность» — денежную сумму с четырьмя цифрами, а также список секторов, готовых бороться за мое внимание. Еще несколько лет назад создание подобных профилей потребовало бы длительного исследования, а теперь для этого достаточно одной загрузки данных.
Механизмы слежки и утечки контекста
Большая часть данных, которыми пользователи делятся непреднамеренно, проистекает из накопленного контекста, формируемого в процессе «игры» с чат-ботами. Имон Магуайр, инженерный директор Proton, отмечает в комментарии TechRadar: «Даже когда пользователь не раскрывает определенные факты напрямую, их часто можно вычислить на основе паттернов взаимодействия — примерного возраста, уровня дохода, образования или политических предпочтений». Против пользователя работают даже стиль письма и тон сообщений. Они могут раскрыть социально-экономический профиль и психологическое состояние, включая уровень стресса, настроение и моменты уязвимости.
Цена вопроса — конкретный и существенный ценник моих данных, обладающих внутренней стоимостью, на которой компании могут зарабатывать. Как только данные покидают платформу — будь то для объединения с другими массивами для рекламы, обучения нейросетей или использования в целях, выходящих за рамки базового функционирования LLM, — они рискуют быть навсегда скомпрометированными. У пользователей практически нет способов защитить эту информацию.
Оценка рисков: кто из разработчиков наиболее опасен
Справедливо предположить, что большинство LLM — это кладези данных. Они впитывают наши сведения, когда мы их добровольно предоставляем, и для владельцев нейросетей слишком заманчиво не извлекать из этого выгоду. В рейтинге конфиденциальности данных Incogni за 2026 год были оценены 13 ИИ-платформ по уровню рисков, которые они создают. Богдан Попеску, старший менеджер по коммуникациям Incogni, пояснил TechRadar: «Вопрос не в том, какая платформа наиболее дружелюбна к конфиденциальности, а в том, какая из них наименее агрессивна в этом плане».
Худшими оказались Meta AI, Gemini и Copilot. Incogni указывает на запутанные политики конфиденциальности, охватывающие множество продуктов одновременно, что затрудняет понимание того, какие правила применяются именно к чат-ботам, а также на более широкие практики сбора и передачи данных. У других, например, у Mistral’s Vibe, рисков меньше, однако они всё равно обучаются на общедоступных массивах данных, не раскрывая источники. «Они сообщают пользователям крайне мало о том, какая информация была включена, чьи данные могут быть там и как они были получены», — подчеркивает Попеску. Хотя популярный ChatGPT идет следом за Vibe как «наименее инвазивная» платформа, эти выводы не выглядят утешительными. В частности, недавнее расследование 404Media показало, что люди действительно просматривают промпты пользователей для улучшения моделей OpenAI. Упомянутые компании были уведомлены, но не ответили на запросы о комментариях к их политикам конфиденциальности.
Самое печальное заключается в том, что провайдеры LLM не столько «собирают» данные, сколько пользователи сами добровольно жертвуют своей приватностью.
Иллюзия безопасности и реальность работы чат-ботов
Зак Паппис, старший вице-президент DuckDuckGo, отмечает, что многие компании создают ложное впечатление о необходимости внедрения ИИ во все сферы жизни. В сочетании с разговорным стилем общения и видимым профессионализмом чат-ботов у пользователей формируется ошибочное представление об уровне безопасности и анонимности, которые большинство подобных систем на самом деле не обеспечивают.
Недавний отчет DuckDuckGo подтверждает эти опасения. Согласно опросу, проведенному среди почти 2000 взрослых американцев, более трети пользователей ИИ делились с чат-ботами информацией, которую они скрывали даже от близких друзей, родителей или врачей. Хуже того, более половины респондентов не знали или сомневались, используются ли их диалоги для обучения нейросетей. «Большинству компаний выгодно, чтобы люди не осознавали, куда именно уходят их данные», — подчеркивает Паппис.
Почему простого удаления чатов недостаточно
Хотя первым желанием пользователя может стать удаление истории переписки, это не решает проблему кардинально. Понятный интерфейс — лишь фасад, за которым скрываются глубокие процессы. Копии данных сохраняются там, куда функция удаления не дотягивается: в резервных копиях, системах аварийного восстановления, журналы которых могут хранить информацию месяцами, в логах серверов, у сторонних процессоров (облачные или инфраструктурные сервисы) и, что наиболее важно, в производных артефактах.
«Последний пункт имеет решающее значение», — заявляет Магуайр из компании Proton. Если диалог уже внес вклад в обучение модели, создание эмбеддингов или агрегированный анализ до того, как вы удалили историю, последующее удаление не отменяет того, что модель уже «узнала» о вас. Кроме того, само удаление часто не происходит мгновенно: многие провайдеры удерживают данные после запроса на удаление для расследования злоупотреблений, соблюдения правовых норм или просто из-за операционных задержек.
Отказ от использования данных для обучения (opt-out) также не является панацеей. Настройки платформы могут сохранять диалоги, загруженные файлы, информацию об учетной записи и шаблоны использования в течение длительного времени независимо от обучения. Компании зачастую используют данные не только для улучшения моделей, но и для таргетированной рекламы, что недавно было внедрено в ChatGPT. Магуайр поясняет: «Существует важное различие между утверждением «мои диалоги не используются для обучения модели» и тем, что сервис не хранит и не обрабатывает мои данные».
Более того, исследование Incogni показало, что на данный момент ни одна платформа не позволяет пользователям отозвать данные, которые уже были использованы для обучения, поэтому отказ имеет лишь перспективный, а не ретроактивный характер. По словам Попеску из Incogni, «ваши самые глубокие секреты активно используются для обучения платформы, чтобы завтра она могла ответить на похожий запрос другого пользователя». Таким образом, настройки отказа создают лишь опасную иллюзию контроля, защищая текст внутри окна чата, в то время как сбор данных в фоновом режиме продолжается.
Как обеспечить приватность при использовании ИИ
Эксперты единодушны в рекомендациях для пользователей больших языковых моделей (LLM). Во-первых, следует помнить о накопительном эффекте: воспринимайте не каждый промпт как изолированное взаимодействие, а предполагайте, что все написанное вами потенциально может быть увидено третьими лицами. Попеску подтверждает, что злоумышленники или даже сам ИИ способны перехватить информацию, поэтому конфиденциальность лучше не доверять случайности.
Хотя изучение политик конфиденциальности необходимо, более надежным решением является переход на ИИ-сервисы, изначально спроектированные с упором на защиту данных:
- Proton Lumo: заявляет об отсутствии журналов диалогов после обработки, использовании сквозного шифрования для сохраненных историй чатов и отказе от обучения на пользовательских данных.
- xPrivo: опенсорс-чат-бот, который гарантирует отсутствие обучения на данных пользователей.
- Internxt: обеспечивает хранение всех чатов локально на устройстве пользователя.
Популярность таких инструментов будет расти. Если же вы продолжаете пользоваться сервисами от крупных технологических компаний, Попеску рекомендует отдавать предпочтение браузерным версиям, а не мобильным приложениям, так как последние часто запрашивают доступ к большему объему данных устройства и делятся ими с третьими лицами. В идеале, будущее регулирования должно прийти к стандартизированному «праву на забвение», которое позволит защитить наши цифровые дневники от посторонних глаз.
Требования к публикации комментариев
Перед тем как оставить комментарий, вы обязаны подтвердить свое публичное имя пользователя. Для выполнения этой процедуры необходимо выйти из своей учетной записи, а затем авторизоваться повторно. После того как вы заново войдете в систему, вам будет предложено ввести или подтвердить ваше отображаемое имя.
