Google Earth научили рисовать фейки — и через день откатили

Google продержала новую функцию ровно один день. 30 июля компания встроила в Google Earth свой генератор изображений Nano Banana 2, разрешив любому пользователю дорисовывать ИИ поверх настоящих спутниковых снимков. Уже через сутки, по данным Ars Technica, функцию откатили — после того как исследователи наглядно показали, во что она превращается в чужих руках.

«Просто приблизь любое место в Google Earth, нажми „создать изображение" и впиши что угодно», — так продукт-менеджер Брайан Горовиц описывал новинку в блоге. Проблема в том, что «что угодно» на фоне фотореалистичной спутниковой картинки Google — это готовый инструмент дезинформации.

Открытые расследователи отреагировали мгновенно. Хенк ван Эсс написал в блоге, что одной фразой поставил беженцев у мексиканской границы, воткнул атомную станцию в Иран и устроил смертельную аварию в Амстердаме — «ничего не было отклонено». Эллиот Хиггинс из Bellingcat съязвил, что «злоупотребить этим совершенно невозможно», приложив ИИ-снимок с гигантской золотой статуей Трампа над Белым домом. NPR со своей стороны легко сгенерировал пожары на иранском острове Харг и потоп вокруг Капитолия — оба события, случись они на самом деле, были бы мировыми новостями.

Почему это ударило по больному

Спутниковые снимки долго оставались последним рубежом доверия. «Проверить событие по спутнику было безопасной ставкой, потому что его тяжело подделать», — объясняет исследователь Bellingcat Джейк Годин. Камеру в сотнях километров над землёй трудно сымитировать, и именно поэтому Google Earth годами служил эталоном для проверки фото и видео из труднодоступных мест. Функция, встроенная прямо в этот инструмент, ломала саму опору: как сформулировал ван Эсс, «фейк создаётся внутри того самого приложения, которым люди проверяют, правдивы ли картинки».

В качестве защиты Google сослалась на водяные знаки SynthID, которые помечают все изображения её ИИ. Но, как отмечает Ars Technica, снимок экрана или пересъём на телефон эту метку теряют — а фейки, по словам ван Эсса, «путешествуют не чистыми файлами, а скриншотами скриншотов, снятыми впопыхах с чужого экрана».

Откатывая функцию, Google признала, что «люди делятся сгенерированными изображениями, которые, похоже, нарушают наши правила», и обещала вернуть инструмент «с более сильными ограничениями». Пока же ущерб уже двойной: под сомнением не только фейки, но и подлинные снимки — теперь любой чиновник может отмахнуться от реальной спутниковой съёмки, назвав её ИИ-подделкой.