В то время как концепция “deepfakes”, или синтетических образов, генерируемых искусственным интеллектом, была осуждена главным образом в связи с непроизвольными изображениями людей, технология опасна (и интересна) и в других отношениях. Например, исследователи показали, что он может быть использован для манипулирования спутниковыми снимками для создания реальных, но полностью поддельных карт городов.
Исследование, проведенное Бо Чжао из Вашингтонского университета, направлено не на то, чтобы кого-то встревожить, а скорее на то, чтобы показать риски и возможности, связанные с применением этой довольно печально известной технологии в картографии. На самом деле их подход имеет столько же общего с методами “переноса стиля” — перерисовки изображений в импрессионистической, карандашной и произвольной другой манере — чем с глубокими подделками, как их обычно понимают.
Команда обучила систему машинного обучения на спутниковых снимках трех разных городов: Сиэтла, близлежащей Такомы и Пекина. Каждый из них имеет свой собственный характерный облик, как это делает художник или медиум. Например, Сиэтл имеет тенденцию иметь большую нависающую зелень и более узкие улицы, в то время как Пекин более монохромный и — на изображениях, используемых для исследования — более высокие здания отбрасывают длинные темные тени. Система научилась связывать детали карты улиц (например, Google или Apple) с данными спутникового обзора.
Полученный агент машинного обучения, получив карту улиц, возвращает реалистичное искусственное спутниковое изображение того, как выглядел бы этот район, если бы он находился в любом из этих городов. На следующем рисунке карта соответствует верхнему правому спутниковому изображению Такомы, в то время как нижние версии показывают, как она может выглядеть в Сиэтле и Пекине.
Внимательный осмотр покажет, что поддельные карты не так точны, как настоящие, и, вероятно, есть некоторые логические несоответствия, такие как улицы, которые никуда не ведут, и тому подобное. Но на первый взгляд образы Сиэтла и Пекина вполне правдоподобны.
Нужно только подумать несколько минут, чтобы понять, как использовать поддельные карты, подобные этой, как законные, так и нет. Исследователи предполагают, что этот метод может быть использован для имитации изображений мест, для которых нет спутниковых снимков — например, одного из этих городов в дни, когда такие вещи были возможны, или для запланированного расширения или изменения зонирования. Система не должна полностью имитировать другое место — она может быть обучена в более густонаселенной части того же города или с более широкими улицами.
Его можно было бы даже использовать, как и этот довольно причудливый проект, для создания реалистичных современных карт из древних, нарисованных от руки.
Если подобная технология будет направлена на менее конструктивные цели, в статье также рассматриваются способы обнаружения таких имитированных изображений с помощью тщательного изучения цветов и особенностей.
Эта работа бросает вызов общему предположению об “абсолютной надежности спутниковых изображений или других геопространственных данных”, сказал Чжао в статье UW news, и, конечно, как и в других средствах массовой информации, такое мышление должно отойти на второй план по мере появления новых угроз. Вы можете прочитать полный текст статьи в журнале Cartography and Geographic Information Science.