«Меня забанили в Midjourney за создание реалистичных изображений политиков, изменяющих своим женам. Я сгенерировал их для серии работ под названием “Искусственный интеллект как революционный способ шантажа”, — сказал нейрохудожник Джастин Браун. Он добавил, что «в руках злоумышленников ИИ может стать опасным оружием».
Похоже, что художник создал работы с благими намерениями. Но модераторов Midjourney это не остановило от блокировки его аккаунта — возможно, они серьезно относятся к таким пранкам из-за предстоящих американских выборов президента в 2024 году. Подобные фейки могут повлиять на голосование, если люди поверят изображениям.
В генерациях фигурируют Джо Байден, Дональд Трамп, Берни Сандерс, Барак Обама, бывший губернатор Нью-Джерси Крис Кристи и губернатор Флориды Рон ДеСантис. Некоторые из них собираются участвовать в следующих выборах.
Хотя изображения не слишком правдоподобны, они все равно довольно убедительны. Причем модераторы нейросети забанили художника только после размещения работ в соцсетях — получается, что кто-то еще может спокойно генерировать такой контент, если не делает это публично.
«Как только картинки набрали популярность на Reddit, модераторы Midjourney заблокировали аккаунт», — сказал Браун. «Я сталкивался с предупреждениями из-за непристойных изображений, но никогда не получал бана. Модераторы не дали объяснений, но причина очевидна».
Мнения пользователей разделились: одни говорят, что в такой фейк все равно никто не поверит, а другие напомнили об огромном количестве наивных и не разбирающихся в технологиях людей. Если им показать эти генерации, то они вполне могут принять их за реальные фото.
Это признает и сам художник:
«Я никогда не представлял изображения как настоящие. Но я знаю, что некоторые из них уже публиковали другие люди вне контекста моего творчества. Поэтому я не удивлюсь, если найдутся люди, которые поверят в их реальность».