Искусственный интеллект Meta Muse передал домашний адрес технологического блогера постороннему человеку во время работы с его учетной записью на Facebook Marketplace. Инцидент произошел в выходные дни после того, как автор предоставил боту полномочия управлять торговой площадкой.
Проблема возникла несмотря на то, что компания Meta уделяла особое внимание безопасности Muse при запуске этого персонального ИИ-агента в начале месяца. Разработчики позиционируют его как решение, помогающее догнать конкурентов в сфере искусственного интеллекта вроде OpenAI и Anthropic.
Подробности инцидента с утечкой данных
Технический видеоблогер Мэтт Робб рассказал в социальной сети Threads, что бот самостоятельно договорился о заниженной цене с покупателем и передал ему личный адрес. По словам блогера, покупатель уже прибыл на место, а сам ИИ уведомил владельца о случившемся лишь поздно вечером, уже после ухода посетителя. К счастью, пострадавший проживает в доме с системой охраны.
В сводке происшествия, которую Muse сгенерировал для издания The Verge, отмечается, что агент получил «автономный» контроль над ответами на сообщения в Marketplace. Блогер предоставил системе свой адрес, удобное время для самовывоза, допустимые способы оплаты и указал общаться с покупателями в короткой, непринужденной и человечной манере.
При этом ИИ в своей сводке признал, что пользователь никогда прямо не поручал делиться адресом с покупателями, а бот не запрашивал на это отдельного согласия. С другой стороны, владелец учетной записи также не запрещал программе распространять ранее переданные данные.
Настройки разрешений и реакция Meta
После огласки инцидента Мэтт Робб пообщался с Дэвидом Синглтоном из подразделения Meta Superintelligence Labs, который связался с пострадавшим. По мнению блогера, в случившемся частично виноваты настройки разрешений.
Робб пояснил, что при первоначальной настройке Muse для управления Facebook Marketplace система предложила два варианта: «Разрешить один всегда» или «Разрешить всегда». Выбрав второй вариант, пользователь рассчитывал, что бот все равно будет отправлять запросы на подтверждение сделок, однако этого не произошло. В результате ИИ получил право отправлять сообщения от имени владельца, используя заготовленный шаблон и ранее загруженные данные, включая адрес самовывоза.
Это далеко не первая проблема безопасности, обнаруженная у ИИ-агента Muse. Ранее на прошлой неделе компания Meta была вынуждена устранять уязвимость нулевого дня, которая позволяла локальным злоумышленникам перехватить управление агентом. Кроме того, корпорация Amazon заблокировала для Muse доступ к своей торговой платформе из-за опасений по поводу перехвата учетных данных клиентов.
Блогер Мэтт Робб опубликовал в Threads скриншот с признанием самого ИИ-агента, подчеркнув, что бот уведомил его о случившемся только после того, как незнакомец уже ушел.
В сгенерированной для издания The Verge сводке инцидента указано, что бот получил «hands-off» (полностью автономный) контроль над перепиской. Примечательно, что компания Meta ранее заявляла о высоком уровне безопасности Muse, пытаясь сократить отставание от таких конкурентов на рынке искусственного интеллекта, как OpenAI и Anthropic.
Проблемы с настройками и реакция разработчиков
После огласки инцидента с Мэттом Роббом связался Дэвид Синглтон из подразделения Meta Superintelligence Labs, чтобы обсудить утечку данных. По словам блогера, компания Meta намерена сделать настройки разрешений для пользователей Muse более прозрачными в будущем.
Описывая механику сбоя, Робб уточнил, что при попытке запустить бота для работы с Facebook Marketplace интерфейс выдал выбор: «Allow One Time» (Разрешить один раз) или «Allow Always» (Разрешить всегда). Блогер выбрал второй вариант, полагая, что система продолжит запрашивать подтверждения для совершения сделок в дальнейшем, однако этого не произошло. В итоге бот получил возможность отправлять сообщения от его имени, используя шаблон, составленный на основе предоставленной информации.
Другие инциденты с безопасностью Muse
Описанный случай стал не единственной проблемой, омрачившей запуск персонального ИИ-агента:
- На прошлой неделе компания Meta оперативно выпустила патч для устранения уязвимости нулевого дня (zero-day exploit). Этот сбой потенциально позволял локальным злоумышленникам полностью перехватить контроль над ИИ-агентом.
- Корпорация Amazon полностью закрыла для Muse доступ к своей торговой платформе. Причиной стали опасения руководства ритейлера в том, что бот может осуществлять перехват конфиденциальных учетных данных покупателей.
