Эксперты по компьютерной безопасности уже не первый год предупреждают о потенциальной опасности искусственного интеллекта. За последние годы было придумано множество нейронных сетей, которые за несколько секунд генерируют фотографии несуществующих людей, и они вполне могут использоваться мошенниками для обмана пользователей интернета. Кажется, обеспокоенность экспертов не лишена оснований — информационное агентство Associated Press недавно зафиксировало одно из первых в истории случаев использования искусственно созданной фотографии для шпионажа за высокопоставленными людьми.
Профиль с искусственной фотографией женщины был обнаружен в социальной сети LinkedIn для установления деловых контактов. В 2018 году количество зарегистрированных в ней пользователей перевалило за 590 миллионов человек, и среди них есть много высокопоставленных лиц. Например, там можно найти Пола Уинфри — бывшего заместителя помощника Дональда Трампа по внутренней политике, поэтому социальная сеть является притягательным местом для всевозможных шпионов.
Как вычислить фейковый аккаунт?
Создав ненастоящий профиль и поставив в качестве фотографии созданное искусственным интеллектом лицо несуществующего человека, шпионы могут легко втереться в доверие. Благодаря уникальности генерируемых изображений, распознать шпионский аккаунт при помощи поиска по картинкам Google попросту невозможно. Однако, выявить фальшивый аккаунт удалось сотруднику аналитического центра Chatham House Кейру Джайлсу — он получил заявку в друзья от подозрительного аккаунта и сопоставил информацию с его страницы с реальными данными.
В профиле некой Кэти Джонс была поставлена фотография рыжеволосой женщины средних лет, а в биографии указано, что она долгое время работала в Центре стратегических и международных исследований. Информация оказалась ложной — представитель аналитического центра Эндрю Шварц объявил, что женщина с таким именем у них никогда не работала. Также в профиле упоминалось, что Кэти имеет степень по русскому языку в Университете Мичигана, но в базе учебного заведения такое имя тоже не нашлось.
созданных искусственным интеллектом фотографий
Фальшивость аккаунта также выдавала установленная на ней фотография. Чтобы найти признаки искусственной генерации, сотрудники Associated Press обратились к немецкому художнику Марио Клингеманну, который уже несколько лет экспериментирует с искусственным интеллектом. Он уверен, что портрет женщины с сине-зелеными глазами, рыжими волосами и загадочной улыбкой был создан генеративно-состязательной нейронной сетью.
Распознать искусственную фотографию можно по нечеткому фону, размытым очертаниям волос и ушей, а также по неестественным полосам по коже. Убедиться в этом можно самостоятельно, сгенерировав лицо при помощи созданного одним из разработчиков Uber сайта-генератора реалистичных лиц. Если присмотреться, можно заметить, что на фотографиях есть витающие в воздухе частицы волос и грубые полосы на коже, а фон вовсе полностью размыт и полон артефактов.
Заключающим доказательством фальшивости аккаунта стало то, что после попытки агентства Associated Press связаться с ним, он был немедленно удален. Известно, что Кэти Джонс успела пообщаться с 52 людьми, и некоторые из них поделились, что они часто принимают заявки в друзья от незнакомых людей. Практически никто из них не осознавал, что аккаунт может быть шпионским, и вступая с ним в контакт они подвергают в опасность не только личную информацию, но и подставляют других людей — вероятность того, что друзья примут заявку от человека с общими знакомыми, крайне велика.