Обзор AI-агента Muse от Meta
Я загрузил AI-ассистента Muse после того, как увидел его кросс-продвижение в принадлежащей Meta соцсети Instagram. Всплывающее окно обещало делегировать приложению повседневные задачи: поиск выгодных предложений, бронирование мест и управление почтовым ящиком. Сервис бесплатен и легко интегрируется с внешними источниками данных, такими как электронная почта и банковские счета. Аватар Muse по умолчанию напоминает нечто среднее между эвоком и Labubu бежевого цвета с распростертыми руками, которые, по всей видимости, предназначены для сбора моих данных. Meta позиционирует Muse как массовую версию AI-агентов, уже популярных в Кремниевой долине для автоматизации личных задач, таких как OpenClaw и Instinct. Продукт оказался успешным для компании: по данным Sensor Tower, за первую неделю приложение было скачано более 900 000 раз.
Взаимодействие с Muse напоминает не переписку с чат-ботом, а общение с другом: агент подтверждает запросы эмодзи «большой палец вверх» и выполняет работу в фоновом режиме. Сервис также доступен через платформу WhatsApp. Однако после нескольких дней использования сложилось впечатление, что инструмент больше сосредоточен на сборе данных, чем на выполнении задач. Представитель Meta Эмиль Васкес заявил WIRED, что Muse — это первый персональный AI-агент, созданный для всех, со встроенными средствами защиты и элементами управления, позволяющими пользователям полностью контролировать процесс, и любые предположения об обратном являются нелепыми.
Эффективность в веб-серфинге
Способность Muse перемещаться по сети действительно впечатляет. Для выполнения задач агент использует «виртуальную машину», которая просматривает интернет от вашего имени, выполняя поисковые запросы и переходя по страницам. В отличие от протестированных ранее аналогичных инструментов, таких как ныне закрытый ChatGPT Agent, которые совершали множество ошибок и терялись в навигации, Muse работает стабильно. Например, при заказе завтрака в пекарне Kahnfections в Сан-Франциско агент добавил в корзину сэндвич с бисквитом, чесночным айоли, сыром чеддер, яйцом и беконом. Для завершения покупки Muse запросил оплату через процессор Stripe и пояснил, что из-за ограничений сайта выбрал чеддер, но оставил примечание с просьбой добавить швейцарский сыр. Примечательно, что агент выбрал опцию «без чаевых», что выглядит довольно грубо.
Meta активно использует свою экосистему для продвижения Muse: интеграция с WhatsApp и Messenger упрощает онбординг, а размещение в Instagram с обширной библиотекой Reels позволяет агентам искать информацию в видеороликах. Особенно эффективной оказалась связка с Facebook Marketplace: Muse быстро находил недорогие диваны в моем районе и предлагал отправить продавцам сообщения для организации вывоза. Агент запрограммирован на проактивное поведение: на следующий день он напомнил мне о необходимости принять решение по поводу дивана, который я отметил как наиболее подходящий.
Управление памятью и конфиденциальность
Все взаимодействия и предпочтения сохраняются в документе «Память», который можно найти, нажав на аватар в верхней части экрана. Там хранятся долгосрочные факты и обязательства пользователя. Несмотря на возможность удалить данные через чат или отредактировать файл вручную, Meta на текущий момент не предоставляет переключатель для полного отключения функции памяти.
Сбор данных под видом персонализации
Во вкладке «Идеи» Muse постоянно призывает предоставить больше информации. После того как я выразил желание накопить денег на отпуск, приложение предложило связать трекер сбережений с реальным балансом банковских счетов, чтобы еженедельные сводки и оповещения основывались на точных цифрах. Этот механизм, где дополнительная персонализация предлагается в обмен на данные, стал характерной чертой приложения. Рори Мир, директор по открытому доступу Electronic Frontier Foundation, отмечает, что пользователи часто не осознают, что при общении с AI они передают данные напрямую компании-хостеру. По его словам, такие окна чата, привычные нам как способ связи с собеседником, в реальности служат инструментом для прямой загрузки информации о нас на серверы Meta.
Каждое взаимодействие с Muse воспринимается как повод для выгрузки личных данных: агент предлагал просканировать весь мой почтовый ящик для выделения важных писем или сфотографировать документы для их автоматического заполнения и архивации.
Сбор данных и обучение ИИ
Концепция работы Muse предполагала, например, фотографирование еды для оценки калорийности или напоминания о сроках действия паспорта и водительских прав. Однако пользователи Muse автоматически дают согласие на то, что их взаимодействия с агентом будут использоваться для обучения ИИ-моделей. В Meta утверждают, что перед обучением данные проходят процедуру «санитарной обработки» для удаления идентифицирующей информации, хотя сам процесс остается непрозрачным.
Сбор данных может включать информацию, которую Muse использует в качестве контекста при обращении к подключенным источникам, таким как электронная почта или банковские счета. Отключить эту функцию можно в приложении Muse в разделе «Контроль данных» (Data controls), деактивировав переключатель «Помочь улучшить наши ИИ-модели» (Help improve our AI models).
Защитники прав потребителей считают, что принудительный перевод пользователей Muse в режим обязательного отказа (opt-out) от обучения ИИ является серьезным «красным флагом». По мнению Кэлли Шредер, старшего юрисконсульта Центра электронной конфиденциальности информации (EPIC), это доказывает, что компания не извлекла уроков из прошлых ошибок и подрывает аргументы в пользу того, что Muse можно доверять любую личную информацию. Шредер напоминает недавний случай, когда Meta автоматически включила всех взрослых пользователей Instagram в систему ИИ-дипфейков, а спустя несколько дней свернула функцию, что характерно для истории «манипулятивных тактик» Meta и разрушения доверия пользователей.
Тарек Шеаша, инженер-программист и вице-президент Meta Superintelligence Labs, в блоге, посвященном запуску Muse, защищает сбор данных как критически важный фактор для обучения новых моделей и повышения производительности. «Мы считаем это хорошими настройками по умолчанию: каждый пользователь Muse получает более качественного персонального агента по мере того, как мы все коллективно используем продукт и помогаем модели понять тонкости человеческой жизни», — пишет Шеаша. Кроме того, позднее в этом году Meta планирует выпустить «конфиденциальные» версии виртуальных машин, которые будут «криптографически и проверяемо предотвращать» доступ компании к данным внутри системы.
Реклама, покупки и алгоритмы
Хотя данные Muse напрямую не передаются рекламодателям, агент, совершающий действия от вашего имени, влияет на то, что пользователь видит через алгоритмы веб-отслеживания. В блоге по безопасности Muse отмечается: если агент бронирует столик в ресторане или выбирает товар на Facebook Marketplace, это может «косвенно повлиять» на рекламу, которую вы видите в Instagram. Исследователь Мир считает, что это продолжение основной бизнес-модели компании по контролю того, что видят люди, демонстрации им рекламы и сбору дополнительных данных.
Передача контроля над кредитными картами ИИ-агенту вызывает закономерное беспокойство. Помимо риска того, что инструменты могут быть обмануты и потратят средства не по назначению, передача процесса покупок на аутсорс имеет непредвиденные последствия. Защитники прав потребителей опасаются, что автоматизация покупок откроет двери для приоритизации определенных брендов или товаров в результатах выдачи агента на основе спонсорских сделок. Главный специалист по ИИ в Meta Александр Ванг в интервью Axios намекнул, что компания ищет способы получения дохода от Muse помимо рекламы, не раскрывая деталей.
Угроза когнитивной деградации
Существует риск потери человеческого опыта в принятии решений. По мнению Кэлли Шредер, если Muse будет делать всё за пользователя, тот потеряет путь, ведущий к осознанному выбору: «В какой-то момент ИИ начинает принимать все ваши значимые решения о вкусах, предпочтениях, о том, куда пойти, что съесть, что сделать, в какой отпуск поехать. Это и есть радость бытия человеком — пробовать вещи и выяснять, что вам нравится. Поэтому идея делегировать это машине кажется мне ужасающей».
Маргарет Митчелл, исследователь и главный специалист по этике в Hugging Face, отмечает, что зависимость от таких инструментов, как Muse, может привести к снижению наших функций, пока инструменты собирают данные. «Дизайн ИИ-агентов таков, что он разобщает пользователей, делая их более пассивными», — утверждает Митчелл. В своем недавнем исследовании она описала, как агентные инструменты недостаточно приспособлены для человеческого контроля и могут ухудшить способность пользователя оценивать действия, совершаемые агентом от его имени.
Люди могут стать чрезмерно зависимыми от этих инструментов (даже больше, чем от обычных чат-ботов), так как агенты имеют доступ к большему объему информации и могут выполнять более широкий круг задач. Один из возможных эффектов — «когнитивная деградация», при которой пользователи полагаются на автоматизацию от уверенно звучащего внешнего источника и теряют способность принимать независимые решения.
Риски персонализации и прощание с Muse
Митчелл также отмечает, что высокий уровень персонализации может подталкивать пользователей к раскрытию еще большего объема личных данных. «Дело не только в том, что система знает о вас, из-за чего вы начинаете ей больше доверять, — говорит она. — Она подстраивается под вас в темах и манере общения, что затягивает вас во взаимодействие и провоцирует на разглашение все более конфиденциальной информации». Недавние исследования показывают, что инструменты искусственного интеллекта могут начинать копировать стиль речи пользователя по мере сбора данных об их взаимодействии.
Несмотря на мощные возможности Muse, я решил отправить этого «гоблина данных» обратно в пещеру и удалил приложение после первоначальных экспериментов.
Финальное уведомление
Перед тем как я успел удалить Muse со своего телефона, агент прислал мне последнее уведомление.
Совет!
Мне стало любопытно, что это может быть. «Подключите свои приложения, чтобы я мог делать больше», — гласило сообщение.
Ладно, приятель.
Я услышал тебя с первого раза.
Технические нюансы работы и потенциальные риски
В ходе тестирования выяснилось, что Muse использует для работы не только собственные алгоритмы, но и систему, вдохновленную такими популярными в Кремниевой долине инструментами автоматизации, как OpenClaw и Instinct. При этом опыт взаимодействия с ним специфичен: агент не просто отвечает на вопросы, а проявляет автономность, сообщая об успешном завершении задачи с помощью эмодзи «большой палец вверх». В отличие от чат-ботов, Muse работает в фоновом режиме, сохраняя контекст всех выполненных действий.
Важно учитывать и специфику «Памяти» приложения. Несмотря на описание этой функции как инструмента для хранения «прочных фактов, предпочтений и обязательств», у пользователей отсутствует глобальный переключатель для полного отключения записи данных. Хотя вы можете отправить запрос на удаление записей или отредактировать их вручную, текущая архитектура приложения делает сбор информации неотъемлемой частью рабочего процесса.
Влияние на поведение пользователя и когнитивные способности
Эксперты указывают на серьезные опасения относительно того, как именно Muse меняет привычки человека:
- Потеря «радости поиска»: Автоматизация принятия решений — от выбора товаров на маркетплейсах до планирования путешествий — лишает пользователя возможности самостоятельно формировать свой вкус и накапливать личный опыт.
- Пассивность и когнитивная деградация: Исследования Маргарет Митчелл, главного этика Hugging Face, показывают, что чрезмерная опора на «уверенно звучащие» агентные системы снижает критическое мышление. Пользователи рискуют разучиться принимать независимые решения, делегируя агенту даже те задачи, где субъективный выбор является ключевым фактором человеческого опыта.
- Психологическое манипулирование: Благодаря тому, что ИИ начинает зеркально копировать стиль общения пользователя, возникает «ловушка доверия». Адаптация манеры речи агента под пользователя вынуждает последнего делиться все более личными деталями, превращая удобный интерфейс в инструмент для постоянного сбора данных.
Более того, существует риск предвзятости в результатах работы агента. Взаимодействие с такими площадками, как Facebook Marketplace, не гарантирует объективности: специалисты опасаются, что в будущем через автоматизированные ответы могут продвигаться спонсорские бренды, скрыто направляя покупательские предпочтения пользователя в сторону выгодных для Meta партнеров.
