Компания Google приняла решение отключить новейшую функцию генерации изображений в веб-версии сервиса Google Earth менее чем через сутки после её официального запуска. Причиной послужила непредсказуемость ИИ, который начал создавать пугающе реалистичные иллюстрации вымышленных катастроф.
Инструмент базировался на языковой модели Gemini Nano Banana 2 и позволял пользователям создавать новые спутниковые сцены на основе текстовых запросов, опираясь на реальные географические координаты. Изначально разработчики задумывали эту технологию как вспомогательное средство для урбанистов, специалистов по исторической реконструкции и образовательных проектов.
Однако уже в первые часы после старта эксперты и фактчекеры выяснили, что система имеет слабые фильтры безопасности. ИИ с легкостью генерировал крайне правдоподобные визуализации несуществующих чрезвычайных ситуаций, включая военные действия и техногенные аварии.
В ходе независимого тестирования удалось получить изображения затопленного здания Капитолия в США, разрушенных объектов критической инфраструктуры и масштабных лагерей беженцев — событий, которых никогда не происходило в реальности. Особую тревогу у экспертов вызвало то, что генерации накладывались на аутентичные спутниковые подложки Google Earth, к которым пользователи и аналитики традиционно относятся с высоким уровнем доверия.
Представители Google подчеркнули, что все созданные нейросетью файлы снабжаются скрытым водяным знаком SynthID и не вносятся в базу публичных карт сервиса. Тем не менее в компании признали, что этих мер недостаточно для защиты от распространения скриншотов в сети. В связи с этим 31 июля функцию временно деактивировали для доработки системы фильтрации контента. Сроки её повторного запуска пока остаются неизвестными.
