Власти Далласа начали использовать технологию искусственного интеллекта для контроля за состоянием городской среды. На мусоровозы, занимающиеся сбором крупногабаритных отходов, установлены специализированные камеры, которые в автоматическом режиме фиксируют нарушения правил благоустройства и присваивают объектам недвижимости так называемый «рейтинг упадка» (blight score).
Как работает система мониторинга
Тестирование технологии началось в апреле, а в течение летних месяцев программа была существенно расширена. На 50 автомобилях, осуществляющих вывоз мусора и веток, размещено 100 камер, установленных попарно для обзора с обеих сторон транспортного средства. Устройства имеют разрешение 1920 × 1080 пикселей, оснащены объективами с фиксированным фокусным расстоянием и не используют функции оптического или цифрового зума.
Городские власти подчеркивают, что камеры работают на уровне улицы и не способны заглядывать за заборы частных владений. Планируется, что мусоровозы будут проводить визуальное сканирование территории города примерно раз в 30 дней. Поставщиком решения выступает компания City Detect. Генеральный директор компании Гэвин Баум-Блейк заявил, что лица людей и номерные знаки автомобилей на снимках подвергаются размытию. ИИ-модели, по утверждению города, прошли обучение на примерах с учетом различных сезонов, погодных условий, архитектурных стилей, освещения и географических зон для минимизации предвзятости и ошибок.
Оценка нарушений и реакция населения
Алгоритмы системы способны выявлять такие нарушения, как ненадлежащая высота травы, наличие мусора, разросшиеся сорняки и конструктивные дефекты зданий. На основании анализа программа присваивает объекту рейтинг от 1 до 4, где 1 является наименее серьезным нарушением, а 4 — наиболее критическим. Согласно данным телеканала NBC 5, за время работы системы ИИ обнаружил потенциальные нарушения на более чем 21 000 объектов.
Владельцы недвижимости, попавшие в отчеты, начали получать «уведомления о вежливости», которые в случае невыполнения требований могут привести к штрафам. Жители выражают обеспокоенность вопросами частной жизни и отсутствием прозрачности в критериях, определяющих «упадок» объекта. Также существует риск технических ошибок и ложных срабатываний нейросетей. Опасения усиливаются тем, что программа может привести к росту штрафной нагрузки на семьи, проживающие в экономически неблагополучных районах.
Дальнейшая судьба контракта
На текущий момент город уже направил 1 800 уведомлений, а целевой показатель программы составляет около 5 200 предписаний в год. Однако будущее проекта остается неопределенным. Член городского совета Далласа Чад Уэст выступил с инициативой прекратить финансирование трехлетнего контракта стоимостью 2,5 миллиона долларов.
Уэст временно приостановил свое предложение об отмене финансирования после того, как сити-менеджер согласился провести официальные слушания по данному вопросу в декабре. Несмотря на то что политик признает пользу камер для борьбы с несанкционированными свалками, он настаивает на необходимости тщательного расследования того, как система влияет на жизнь горожан и кто именно имеет доступ к собранным изображениям. Вся полученная информация хранится в облачных хранилищах на территории США, а компания City Detect сохраняет доступ к данным в течение срока действия контракта.
Критика системы и примеры ошибок
Система ИИ-мониторинга уже столкнулась с волной критики со стороны местных жителей, которые ставят под сомнение точность выставленных оценок. Один из домовладельцев, чья недвижимость была отмечена системой за «несоответствующую окраску дымохода» с присвоением рейтинга 2, назвал такую оценку чрезмерно суровой, добавив, что даже балл 1 в данной ситуации выглядит необоснованным.
Опасения по поводу непредсказуемости технологий подкрепляются инцидентами с ИИ в других сферах. Так, в прошлом году произошел резонансный случай, когда 16-летнего школьника окружили полицейские и надели на него наручники после того, как система камер с ИИ ошибочно приняла пакет чипсов Doritos в его руках за огнестрельное оружие. Этот пример служит аргументом для тех, кто опасается, что «галлюцинации» алгоритмов могут привести к непредсказуемым последствиям для граждан.
Роль компании City Detect
Важно отметить границы ответственности сторон: представители City Detect подчеркивают, что компания лишь настраивает искусственный интеллект в соответствии с требованиями Далласа, но не участвует в принятии решений о том, как именно город использует полученные данные для правоприменения. При этом вся собранная информация, включая изображения и сопутствующие метаданные, размещается в облачных хранилищах на территории США, а компания сохраняет доступ к ним в течение всего периода действия контракта.
