Инцидент с участием Waymo и вопросы приватности
В начале сентября двое подростков воспользовались услугами беспилотного такси Waymo, однако поездка завершилась на заднем сиденье полицейской машины. Как сообщает Los Angeles Times, представители компании заявили, что зафиксировали «нарушение условий обслуживания, связанное с огнестрельным оружием», после чего остановили автомобиль и вызвали экстренные службы. Полиция произвела арест пассажиров, обнаружив в салоне заряженное «призрачное оружие» (ghost gun) типа AR.
Этот случай высветил серьезные ограничения приватности в автономных транспортных средствах и поднял ряд вопросов о том, что именно записывают машины, как распоряжаются этими данными и на какой уровень конфиденциальности могут рассчитывать пассажиры.
Наблюдение и сотрудничество с полицией
Автомобили Waymo, оснащенные множеством камер, уже неоднократно становились объектом дискуссий о слежке. Согласно данным Bloomberg, правоохранительные органы регулярно получают ордера на изъятие видеозаписей, сделанных роботакси. Например, в прошлом году полиция Лос-Анджелеса (LAPD) получила доступ к кадрам с камеры Waymo, проезжавшего мимо места, где произошло ДТП с участием скрывшегося водителя. В период протестов против иммиграционной службы (ICE) в Лос-Анджелесе пять автомобилей Waymo подверглись вандализму и были сожжены; тогда высказывались опасения, что машины могли фиксировать протестующих, чьи лица впоследствии использовались для идентификации или арестов.
Waymo не раскрывает общественности статистику запросов от правоохранительных органов и частоту их удовлетворения. Ситуация вызывает параллели с критикой сети автоматических камер Flock, считывающих номерные знаки, что дает полиции возможность отслеживать перемещения транспорта между юрисдикциями и порождает страхи перед государственным контролем. Однако, в отличие от стационарных камер Flock, роботакси Waymo постоянно перемещаются по городу, имея камеры как снаружи, так и внутри салона.
Автоматизированная система вызова полиции
Последний случай с подростками переводит эти опасения на новый уровень. Полиция не обращалась к Waymo с запросом данных после совершения преступления — компания сама инициировала реакцию властей, зафиксировав нечто подозрительное внутри салона.
Представитель Waymo Джулия Илина подтвердила в письме для The Verge, что компания использует внутренние камеры для контроля соблюдения условий обслуживания, включая выявление запрещенных предметов и некорректного поведения. По ее словам, автоматизированные технологии помогают сотрудникам Waymo определять потенциальные нарушения, такие как наличие огнестрельного оружия. Илина добавила: «Если Waymo обнаруживает огнестрельное оружие в транспортном средстве, мы можем связаться с местными правоохранительными органами».
При этом компания не пояснила, как именно автоматизированная система определяет наличие оружия, каков порог уверенности для срабатывания системы, какова роль человека-оператора между моментом срабатывания сигнала и вызовом полиции, а также какие еще нарушения могут привести к вмешательству правоохранителей.
Технологии и риски ошибок
Данная ситуация отличается от действий обычного таксиста, который принимает решение вызвать полицию на основе собственного контекста. Здесь решение принимает беспилотный автомобиль с камерами и алгоритмами ИИ. Боб Сомерс, бывший инженер компании Zoox и технический консультант некоммерческой организации SAVE-US, полагает, что система Waymo запрограммирована на поиск широкого спектра опасных предметов и моделей поведения.
Программное обеспечение может не нуждаться в полной уверенности, что обнаружено именно огнестрельное оружие. Оно может отмечать подозрительные объекты для последующей проверки. «Если обнаружен определенный набор объектов, это, вероятно, переключает задачу на удаленного оператора, который должен оценить происходящее», — поясняет Сомерс.
Фил Купман, почетный профессор Университета Карнеги-Меллона, занимающийся безопасностью автономных систем, отмечает, что системы компьютерного зрения можно обучить распознаванию объектов и потенциально опасных ситуаций. «Если вы можете научить компьютер следить за дорогой и решать, как вести машину, вы можете научить его определять, держит ли кто-то оружие», — говорит Купман. Однако он подчеркивает, что такие системы «никогда не бывают точными на 100 процентов».
Именно здесь возникает критический вопрос о необходимости участия человека. Живой водитель такси, наблюдающий за пассажирами, обладает контекстом всей поездки, может слышать разговоры и задавать уточняющие вопросы, что позволяет отличить настоящее оружие от игрушки. В июле текущего года Waymo уже сообщала полиции о подростках, которые распивали алкоголь и стреляли из автомобиля из игрушечного оружия, заряженного гидрогелевыми шариками. Неясно, были ли подросткам предъявлены какие-либо обвинения в том инциденте.
Особенности работы удаленных операторов и вопросы приватности
Удаленный сотрудник, привлеченный для анализа отмеченного системой инцидента, может не владеть полным контекстом ситуации, так как он не находился в поездке и не проживал её так, как это сделал бы водитель-человек. Компания Waymo заявляет, что внутренние микрофоны автомобилей обычно активны только во время звонков в службу поддержки Rider Support или по инициативе самих пассажиров. Это означает, что проверяющий зачастую не может услышать, что предшествовало моменту, вызвавшему подозрение у автоматики.
По данным на начало текущего года, Waymo располагает примерно 70 «агентами удаленной помощи», которые работают посменно в США и на Филиппинах. Их задача — предоставлять советы и поддержку системе Waymo Driver, однако они не осуществляют прямое управление, руление или вождение транспортного средства. В компании не уточняют, входят ли люди, анализирующие возможные нарушения внутри салона, в число этих агентов. Как отмечает эксперт Фил Купман, для Waymo крайне важно не совершать ошибок при передаче сигнала полиции о чем-то опасном.
Помимо подрыва доверия пользователей к роботакси, ложная тревога может подвергнуть пассажиров риску во время взаимодействия с сотрудниками правоохранительных органов. При этом остается открытым вопрос о том, что именно Waymo сообщает пассажирам относительно их ожиданий от поездки. В отсутствие водителя на переднем сиденье роботакси могут восприниматься как более приватные пространства, чем они являются на самом деле.
Политика безопасности и правила использования
В 2023 году издание San Francisco Standard побеседовало с четырьмя людьми, которые признались, что занимались сексом в роботакси компании Cruise, несмотря на наличие камер в салоне. Хотя изданию не удалось найти подтверждений подобного поведения в автомобилях Waymo, эти эпизоды наглядно показывают, насколько легко пассажиры принимают отсутствие водителя за отсутствие свидетелей.
Согласно условиям обслуживания Waymo, пассажиры обязаны соблюдать законодательство, им запрещено создавать опасные ситуации, иметь при себе оружие («или что-либо, напоминающее оружие, например, игрушечный пистолет») или употреблять наркотики. Для самостоятельных поездок в Сан-Франциско пассажиру должно исполниться 18 лет. Двое задержанных в этом месяце нарушили оба правила: возрастное ограничение и запрет на ношение оружия. Waymo оставляет за собой право приостановить или прекратить доступ пользователя к сервису за нарушение правил. Ранее в этом году аккаунт был заблокирован после того, как трое подростков были сфотографированы высовывающимися из окон движущегося автомобиля ради селфи.
Тем не менее, компания не уведомляет пассажиров напрямую о том, что может вызвать полицию на основе данных, полученных внутри салона. Официальная политика Waymo в отношении камер гласит, что они используются для «проверки соблюдения правил в автомобиле» и «повышения безопасности». В случае возникновения инцидента служба поддержки может изучить записанное видео, а в экстренных ситуациях — получить доступ к прямой трансляции во время поездки. Также компания может передавать определенные данные правоохранительным органам для соблюдения законных требований или защиты пассажиров. Однако политика не содержит четкого указания на то, что автоматизированный мониторинг внутри транспортного средства может стать триггером для вызова полиции силами самой компании.
Вопросы контроля и ожидания пользователей
Хейли Цукаяма, директор по государственным делам организации Electronic Frontier Foundation, назвала политику Waymo «очень широкой». По её словам, пассажиры не должны самостоятельно догадываться, что фразы о «безопасности» подразумевают возможность вызова полиции. Цукаяма подчеркнула: компания обязана четко разъяснять такую возможность до начала поездки. «Я не оправдываю незаконное поведение в такси, но если они собираются передавать информацию властям, это должно быть четко прописано в правилах», — считает она, добавляя, что текущая ситуация не соответствует ожиданиям потребителей.
По мере роста популярности беспилотного транспорта пассажирам придется формировать новый набор ожиданий относительно того, что происходит внутри роботакси. Если водитель-человек может сам решать, как реагировать на происходящее, то в роботакси камеры и программное обеспечение автоматически фиксируют инциденты, к которым подключаются удаленные работники, а сам автомобиль может остановиться в ожидании полиции. Хотя система Waymo в данном случае помогла изъять незаконное огнестрельное оружие, инцидент ставит фундаментальный вопрос: чем является роботакси — поездкой с камерами для безопасности, постоянно контролируемым пространством или системой, способной вызвать полицию на собственных пассажиров?
Эта неопределенность уже находит отражение в культуре. Роботакси становятся антагонистами в фильме «Road Rage» (Дорожная ярость) — истории об автомобиле без водителя, который восстает против людей. Одна из наиболее тревожных идей картины заключается в том, что беспилотник может перестать функционировать как транспорт и начать исполнять роль правоохранительного органа. События этого месяца дали обществу возможность увидеть, как это может выглядеть на практике.
