Компания Meta столкнулась с критикой после того, как стало известно об использовании труда наемных работников для обеспечения работы функций голосового ИИ-агента Muse. Разработчики тестировали сервис «человеческого консьержа», позволяющий подрядчикам из колл-центров совершать звонки вместо автоматизированной системы. Эта инициатива вызвала серьезные опасения в отношении конфиденциальности даже среди сотрудников самой Meta.
Детали эксперимента и инцидент с расистским высказыванием
По данным Reuters, программа была запущена на прошлой неделе и охватила около половины штата сотрудников Meta, при этом была предусмотрена возможность отказа от участия. Работники корпорации предупреждали, что конфиденциальная информация может попасть в руки сторонних специалистов из колл-центров. Один из топ-менеджеров компании признал ошибкой внедрение операторов-людей без предварительного прозрачного информирования пользователей. На текущий момент функция «человеческого консьержа» была отключена.
В ходе тестирования произошел инцидент, подтвердивший риски передачи звонков реальным людям. Сотрудник компании попросил Muse связаться с интернет-провайдером для обсуждения счета, однако в расшифровке разговора обнаружилось, что подрядчик допустил расистское высказывание. В Meta принесли извинения сотруднику и заявили, что данный оператор больше не будет участвовать в проектах компании.
Причины привлечения людей к работе Muse
ИИ-агент Muse, запущенный 8 сентября, позиционируется как персональный помощник, способный отправлять электронные письма, планировать поездки и работать над долгосрочными задачами через собственное приложение или WhatsApp. Отдельная функция позволяет звонить в американские компании для выполнения повседневных задач, таких как запись к парикмахеру или проверка наличия товара.
Эксперименты с привлечением персонала обусловлены техническими ограничениями: многие организации просто прекращают разговор, как только понимают, что общаются с ИИ. Внутренние тесты Meta показали, что передача звонка человеку повышает вероятность успешного завершения задачи до 95–98%. Для сравнения, полностью автоматизированные вызовы демонстрируют значительно более низкий показатель эффективности.
Представитель Meta Дэниел Робертс отметил, что отзывы сотрудников оказались преимущественно положительными. Он добавил, что компания выпустит данную функцию публично только тогда, когда она будет полностью готова, с соблюдением всех необходимых мер безопасности и раскрытием информации о работе сервиса.
Исторический контекст использования «скрытого» ручного труда
Практика использования людей вместо полноценного ИИ встречается в технологической индустрии довольно часто. Так, в 2021 году стало известно, что торговое приложение Nate, заявлявшее об автоматической покупке товаров через ИИ, на самом деле полагалось на сотни работников в колл-центрах Филиппин и Румынии, которые выполняли транзакции вручную. Аналогичная ситуация наблюдалась в Amazon: технология магазинов без кассиров «Just Walk Out» по состоянию на 2022 год требовала участия более 1000 операторов в Индии для проверки записей и маркировки видеопотоков.
Ранее, в 2023 году, стало известно, что около 70% заказов в системе ИИ-драйв-тру Presto Automation требовали вмешательства операторов, работающих удаленно. Сама Meta имеет похожий опыт: в 2015 году компания запустила цифрового консьержа Facebook M, каждое сообщение которого проверялось подрядчиками в штаб-квартире в Менло-Парке, хотя изначально сервис преподносился как система, обученная и управляемая искусственным интеллектом.
Хотя в случае с Muse компания Meta действует более открыто, признавая привлечение подрядчиков, инциденты подобного рода подчеркивают важность прозрачности. Пользователи, взаимодействующие с ИИ, который должен совершать звонки от их имени, справедливо ожидают понимания того, когда на другом конце провода находится человек, работающий в колл-центре.
Технические аспекты защиты данных и функциональность Muse
Несмотря на возникшие споры вокруг участия людей-операторов, в Meta подчеркивают, что архитектура самого ИИ-агента Muse спроектирована с акцентом на безопасность. Согласно данным компании, агент функционирует внутри выделенной виртуальной машины, а любые исходящие действия дополнительно контролируются отдельным «агентом-стражем» (Sentinel). Это должно предотвращать несанкционированные операции: пользователи сохраняют полный контроль над подключенными сервисами и обязаны подтверждать все чувствительные действия, включая финансовые транзакции.
Кроме того, разработчики утверждают, что данные, хранящиеся в виртуальной среде агента, а также содержание самих диалогов, полностью изолированы от рекламных систем Meta. Это решение призвано минимизировать риски использования пользовательской информации в целях таргетинга.
Контекст Amazon и Presto Automation: масштаб проблемы
Опыт с Muse наглядно демонстрирует системную проблему «имитации автоматизации» в Кремниевой долине. Ситуация с Amazon стала особенно громкой: источники утверждали, что по состоянию на 2022 год около 700 из каждой тысячи покупок в магазинах «Just Walk Out» проходили через ручную проверку сотрудниками. Несмотря на то что Amazon впоследствии оспаривала эти цифры, масштабы участия человеческого ресурса (более 1000 сотрудников в Индии) поставили под сомнение эффективность заявленной автономной технологии. Еще более показательным примером стала компания Presto Automation, где в 2023 году было официально признано, что 70% заказов в их ИИ-системах для автокафе требовали вмешательства операторов, находящихся в удаленных колл-центрах, в том числе на Филиппинах.
Эволюция подходов: от Facebook M к современным агентам
Важно отметить разницу в текущей стратегии Meta по сравнению с проектом Facebook M, запущенным летом 2015 года. В то время компания скрывала, что за «интеллектуальными» ответами стояли реальные люди, работавшие в штаб-квартире в Менло-Парке. В случае же с Muse Meta официально подтвердила факт тестирования помощи со стороны человека, не пытаясь представить систему как исключительно машинную. Тем не менее, как показывает недавний инцидент с расистским высказыванием оператора, сама по себе прозрачность в отношении участия подрядчиков не отменяет этических рисков, связанных с доверием к сервисам, которые позиционируются как полностью автономные персональные помощники.
