ИИ-агент Meta Muse, предназначенный для персональной помощи, обладает функциональностью, позволяющей ему создавать своеобразные «карточки» на людей из окружения пользователя. Согласно отчету Wired, основанному на данных от независимого исследователя безопасности Карана Джоши, система способна собирать информацию о супругах, друзьях, коллегах и даже тех людях, на которых подписан пользователь.
Как Meta Muse собирает данные о людях
Каран Джоши извлек внутренние инструкции и системные промпты Meta Muse, направив соответствующие запросы непосредственно через интерфейс чат-бота. В ходе анализа выяснилось, что ИИ запрограммирован на выполнение ежечасных процессов по созданию страниц для каждого человека, фигурирующего в жизни владельца аккаунта. Эти страницы могут содержать факты биографии, историю отношений, общие интересы, открытые темы для обсуждения и даже рекомендации по укреплению связи с конкретным человеком.
Инструкции предписывают ИИ опираться на доступные доказательства, а не придумывать детали, если данных недостаточно. Пустое поле считается более предпочтительным вариантом, чем вымышленная информация. Тем не менее, эксперты отмечают, что подобная глубокая интеграция в социальные связи пользователя вызывает вопросы к приватности. Каран Джоши охарактеризовал стремление ИИ имитировать дружеское знание как «довольно жуткое».
Особенности хранения данных и конфиденциальности
Важно отметить, что существование такой «страницы» в чужом аккаунте Muse не означает, что компания Meta создает единый профиль на каждого человека в глобальной базе данных. По заявлению разработчиков, каждый пользователь Muse работает внутри изолированной виртуальной машины, где хранятся его данные и контекст общения. Доступ к этой информации со стороны других пользователей или иных ИИ-агентов исключен.
Тем не менее, возникает ситуация, при которой информация о человеке может быть сохранена в базе Muse, даже если этот человек никогда не регистрировался в сервисе и не передавал Meta никаких данных о себе. Если ваш знакомый делится подробностями жизни с ИИ, эти сведения могут стать частью контекста, который агент использует для понимания социальных связей своего владельца. Такой подход к «памяти» существенно отличается от принципов работы других популярных моделей, таких как ChatGPT или Claude.
Аргументы Meta в пользу сбора данных
Согласно пояснениям компании, основная цель Meta Muse — помощь пользователю в достижении его целей. ИИ должен «понимать» жизненный контекст владельца, чтобы быть эффективным ассистентом. Например, он может запомнить, что человек, приславший счет, является сантехником, который ранее работал в доме, или напомнить о предпочтениях супруга в выборе цветов. Однако именно эта способность помнить детали жизни окружающих создает конфликт между функциональностью персонального помощника и вопросами приватности.
Личный опыт использования и выводы
В ходе проверки собственного аккаунта в Meta Muse автор пришел к выводу, что собранная информация во многом зависит от того, насколько активно пользователь делится данными. В профиле, созданном для автора, содержались сведения о наличии троих детей, увлечении футболом и месте работы. Однако данные о людях вне семьи оказались крайне скудными и не содержали имен. Это подтверждает, что страницы начинают заполняться постепенно по мере эксплуатации сервиса.
Проблема заключается не только в тех данных, которые пользователи передают ИИ осознанно. Карисса Велиз, доцент Института этики в ИИ при Оксфордском университете, подчеркивает, что серьезную обеспокоенность вызывают сведения, которые система может логически вывести или собрать из множества различных источников. Meta утверждает, что пользователи Muse могут удалять накопленные ИИ воспоминания, отключать внешние сервисы и просматривать журнал аудита, чтобы контролировать активность агента. Эти инструменты управления данными становятся критически важными по мере того, как пользователи всё больше доверяют ИИ ведение своей повседневной жизни.
Технические аспекты функционирования и этические риски
Исследователь безопасности Каран Джоши, проанализировавший внутренние инструкции Meta Muse, обращает внимание на специфику того, как именно ИИ формирует свои базы знаний. Хотя страницы на людей в системе поначалу выглядят как набор фрагментарных данных, они спроектированы таким образом, чтобы аккумулировать информацию на протяжении долгого времени. Система классифицирует данные по строгим категориям, включая не только сухие факты о месте жительства или профессии, но и гораздо более интимные детали, которые пользователь может упомянуть в ходе повседневных диалогов.
С точки зрения архитектуры ИИ, такой подход фундаментально отличается от принципов работы конкурентов, таких как ChatGPT или Claude. Если последние ориентированы на выполнение текущих задач или кратковременный контекст, Muse нацелен на выстраивание долгосрочной «памяти об отношениях». Именно эта направленность на создание «цифрового двойника» вашего окружения заставляет экспертов по этике бить тревогу. Карисса Велиз из Оксфордского института этики ИИ отмечает, что главная опасность кроется не в прямой передаче данных, а в способности нейросети самостоятельно выстраивать логические цепочки, сопоставляя разрозненные факты, полученные из разных источников.
Граница между полезным помощником и «цифровым шпионом»
Компания Meta оправдывает подобную глубину анализа стремлением к максимальной персонализации. Однако возникает парадокс: чем больше контекста предоставляет пользователь, тем полезнее становится агент, но тем выше цена этой полезности для приватности окружающих. На текущем этапе развития Muse, как показал эксперимент автора, степень детализации данных напрямую коррелирует с интенсивностью использования сервиса. Тем не менее, по мере того как пользователи предоставляют ИИ доступ к своим цифровым календарям, спискам контактов и почтовым аккаунтам, «карточки» на близких людей могут стать пугающе подробными.
Важным предохранителем, заложенным в систему самими разработчиками, является требование опираться на доказательную базу. Инструкции прямо запрещают ИИ «додумывать» информацию о людях, так как внедрение вымышленного факта считается для системы более критической ошибкой, чем наличие пробела в досье. Это подтверждает, что агент активно учится на входящем потоке данных, пытаясь структурировать социальное пространство пользователя, но пока сдерживается рамками доступной ему информации.
Контроль над данными в руках пользователя
Несмотря на опасения, Meta внедряет механизмы, призванные вернуть пользователю контроль над «воспоминаниями» агента. В дополнение к функции удаления истории (memory wipe) и управления доступом внешних сервисов, Muse оснащен журналом аудита (audit log). Этот инструмент позволяет владельцу аккаунта видеть не только прошлую активность системы, но и то, какие действия агент планирует предпринять в ближайшем будущем. Тем не менее, эксперты подчеркивают, что с ростом автономности ИИ-агентов, вопрос прозрачности их внутренней «памяти» будет оставаться одним из самых острых вызовов для разработчиков и пользователей, чья жизнь может оказаться «оцифрованной» без их личного согласия через аккаунты их друзей или родственников.
Дополнительные подробности о функционировании системы
Исследователь безопасности Каран Джоши, получивший доступ к внутренним инструкциям Meta Muse, выяснил, что процесс сбора информации носит систематический характер. ИИ запрограммирован на ежечасную проверку и обновление данных, чтобы постепенно заполнять пустующие разделы в профилях людей. Особое внимание уделяется структурированию информации: Muse выделяет такие категории, как «открытые темы» (open threads) — незавершенные обсуждения, требующие внимания, и специфический раздел, посвященный способам укрепления личных отношений. Это превращает обычный чат-бот в инструмент активного социального менеджмента.
Более того, разработчики Muse предусмотрели стратегию заполнения профилей. Инструкции прямо предписывают ИИ использовать любую имеющуюся доказательную базу, чтобы избегать галлюцинаций. С точки зрения системы, наличие «белого пятна» в карточке человека является гораздо менее опасным сценарием, чем внесение выдуманной или неточной информации. Несмотря на это, данные, которые способен усвоить Muse, варьируются от сугубо утилитарных (место жительства, профессиональная деятельность) до глубоко личных деталей, которые пользователь может раскрыть в ходе доверительной беседы.
Этический аспект: проблема «невольных участников»
Критически важным является осознание того, что в экосистему Muse попадают люди, не дававшие на это своего согласия. Информация о вас может оказаться в «памяти» агента, если ваш знакомый, пользующийся этим сервисом, упомянет вас в контексте совместных событий или отношений. Хотя Meta настаивает на полной изоляции данных внутри виртуальных машин каждого отдельного пользователя, факт остается фактом: ваши персональные данные становятся частью структуры, выстраиваемой алгоритмом для обслуживания другого человека. Это создает прецедент, при котором приватность личности перестает зависеть исключительно от её собственных действий, становясь заложницей цифровой активности её социального окружения.
Как отмечает Карисса Велиз, эксперт из Оксфордского института этики в ИИ, основной риск заключается не в объеме передаваемых данных, а в способности нейросетей проводить глубокий логический анализ (inferencing). Система способна связывать разрозненные события, которые на первый взгляд кажутся незначительными, и на их основе формировать выводы о человеке, его характере, привычках или планах, о которых сам объект исследования может даже не подозревать.
