Компания Google приняла решение отключить новую функцию генерации изображений в Google Earth всего через сутки после её запуска. Инструмент, позволявший создавать спутниковые снимки на основе текстового описания, был временно удален из сервиса. Причиной стали массовые случаи использования технологии для генерации контента, нарушающего правила площадки, что вынудило разработчиков приостановить работу функции до внедрения более надежных механизмов защиты.
Причины и риски внедрения ИИ в картографию
Принцип работы функции был прост: пользователь мог выбрать любую локацию на карте, нажать кнопку «Создать изображение» и добавить текстовое описание желаемой сцены. Однако эксперты по анализу открытых данных (OSINT) практически сразу забили тревогу, указав на огромный потенциал инструмента для создания фейковых новостей. В ходе тестовых испытаний системы пользователям удавалось без каких-либо ограничений генерировать реалистичные кадры несуществующих пожаров на иранском острове Харк, затопленного здания Капитолия США, а также воронок от взрывов и иных катастрофических событий.
Изображение сгенерировано: NPR
Угроза для верификации данных
Спутниковые снимки традиционно считались эталоном достоверности при проверке информации. Журналисты и независимые аналитики ежедневно полагаются на них для подтверждения данных о событиях в зонах конфликтов или регионах, куда затруднен доступ прессы. Специалисты по визуальной криминалистике, включая представителей Bellingcat*, отмечают, что наличие встроенного генератора ИИ-изображений не только упрощает создание убедительных подделок, но и подрывает доверие к любым реальным снимкам, опубликованным в Google Earth.
Позиция Google
В компании подчеркивают, что все сгенерированные файлы помечаются специальным цифровым водяным знаком SynthID, а система содержит встроенные фильтры для блокировки потенциально опасных запросов. Тем не менее, данных защитных мер оказалось недостаточно для пресечения дезинформации. Основная критика сводится к тому, что инструмент генерации был внедрен в среду, которая годами служила «золотым стандартом» для фактчекинга и проверки сообщений из социальных сетей.
