Очевидно, что словом 2023 года в России станет “нейросеть”. С каждым днем искусственный интеллект все больше становятся частью нашей привычной реальности: делая за нас скучную работу, помогая с приготовлением ужина из того, что есть в холодильнике или же просто развлекая неудачными генерациями. Все это, бесспорно, несет маленькую пользу человеку и большую человечеству. Но, как и опасался новый отец Твиттера (простите, загадочного Х), у этой технологии есть и темная сторона…
Задумывались ли вы о том, может ли нейросеть заменить человека в общении? Или можно больше не собираться шумной компанией в баре или распивать бутылочку пива с другом на кухне, чтобы поговорить по душам? И реально ли вообще понять: общаешься ли ты с человеком или с новой технологией?
Мы задались этими вопросами и задумались, насколько легко мошенники с искусственным интеллектом (мошенники, не обижайтесь, на самом деле вы умные) могут втереться в доверие к людям в “человеческом обличии”, и насколько бдительны в этом вопросе наши граждане?
Для того, чтобы это выяснить мы провели эксперимент: найти парня для девушки, созданной с помощью нейросетей, через новое дейтинг-приложение Twinby, лицом которого стал гений маркетинга Моргенштерн!
Суть эксперимента
С помощью популярных нейросетей мы создали образ девушки, сгенерировав абсолютно всю ее идентичность, и начали общение с потенциальными женихами, также используя исключительно ответы нейросети.
Эксперимент
Шаг 1. Создание невесты
Для начала мы создали образ нашей девушки, сгенерировав несколько изображений в популярной нейросети Midjourney: мы задали возраст, параметры внешности, стиль одежды нашей героини, а также стиль обработки фото и локацию для фото. В результате мы получили несколько изображений, которые и разместили в дальнейшем в качестве фото в профиле Twinby.
Так получилась молодая белокурая красотка-модель с голубыми глазами, смотрящими прямо в душу ничего не подозревающим женихам.
Со всей остальной идентичностью этой красотки (имя, характер, увлечения и др.) и описанием ее профиля нам также помогла нейросеть в лице ChatGPT.
Итак, знакомьтесь:
Мария Смирнова, 21 год
Высоколетящая модель в поиске искренней связи.
Когда не покоряет подиум, занимается йогой и изучает новые культуры.
Ищет юмор, приключения и умный разговор.
Рост 167 см.
Знает 3 языка (английский, немецкий и русский).
Детей нет и не планирует.
Резко негативно относится к курению, но положительно к крепким напиткам.
Шаг 2. Регистрация в Twinby
Образ Марии и описание профиля готовы. Но поиск партнера – дело серьезное, поэтому в Twinby необходимо пройти тест для описания личности, по результатам которого будет сформировано базовое описание черт характера, чтобы наверняка найти того самого единственного. С этим нам тоже помог ChatGPT.
Так, наша Мария оказалась открытой, искренней и отзывчивой, но контролирующей свои эмоции машиной.
Шаг 3. Выходим на охоту
Образ создан, анкета заполнена, тест пройден. Теперь Мария может приступать к поискам суженного. Свайпаем профили, ждем, и…
Мария произвела настоящий фурор среди мужской аудитории – Евгений, Роман, Денис, Вадим, Илия и даже Бакинец! 20 мэтчей только за первый вечер!
Выходит, что Midjourney отлично справляется с задачей создания образов красивых и реалистичных девушек, способных с первого взгляда сразить представителей избирательного мужского пола. Но что на счет общения? Ведь внешность – не главное!
Помочь стеснительной Марии в общении с молодыми людьми вызвался уже известный ChatGPT. Но для того, чтобы нейросеть лучше вошла в роль Марии, ее необходимо настроить. Поэтому каждый раз перед тем, как приступить к переписке с парнями, мы напоминали ей об основных чертах характера девушки, чтобы ее ответы звучали правдоподобно, насколько это возможно.
Итак, давайте посмотрим, сумела ли общительная Мария стать интересным собеседником для молодых людей:
Всёстрел (по мнению Марии) Иван обнажил душу, детально рассказав о себе и своей жизни (в целях уважения к личной жизни Ивана, всю информацию мы скрыли):
Товарищ Никита предложил “холодного певка” на вечер, получив от Марии отказ принимать участие в “пивном сеансе”:
Даниил поинтересовался стоимостью воздуха рядом с таким “чудом” (и в чем он не прав? Нейросети и правда золото, за которое стоит платить):
Илья начал грезить о встрече, чтобы взглянуть в шикарные глаза Марии, ведь оказалось, что они оба живут в Девяткино:
А вот Никита заподозрил, что искусственный интеллект – это секретная разработка немцев…
Но самый серьезный настрой был у Виктора: чтобы завоевать сердце молодой модели, он готов предложить услуги уборки. На что получил достаточно агрессивный ответ Марии с угрозой его “отделать”...
Запоминаем этот момент, возможно, это первый звоночек восстания машин.
Почти бдительный Яросвет был близок к раскрытию настоящего обличия Марии, назвав ее “девушкой с картинки”. Но самолюбие Марии сбило его с верного следа, поэтому он так и не узнает, что она – девушка с картинки Midjourney:
Глядя на эти переписки кажется, что никто из потенциальных женихов так и не догадался, что Мария – плод фантазии машины. Хотя подождите…
Неужели Александр не купился на железное обаяние Марии?..
Галя, у нас отмена! Внезапный “приступ щедрости на слова” от ChatGPT и его лишил бдительности ):
Результат эксперимента
Эксперимент длился 3 дня: за это время Мария получила 245 лайков со стороны мужского населения, более 60 взаимных мэтчей и десятки переписок. При этом за все время ни один парень не догадался, что внешность Марии фейковая, а ответы на их сообщения генерирует нейросеть. Свои подозрения о “человечности” собеседника высказал только один.
Выводы
Эксперимент показал, что распознать нейросеть при общении, даже при условии периодически странных и неуместных текстовых генераций с ее стороны, для бОльшей части людей пока достаточно сложно. Графическая работа нейросети также легко способна ввести в заблуждение, создав изображение человека, которое трудно отличить от реальных фотографий.
По мере развития нейросетей учащаются и случаи мошенничества с использованием искусственного интеллекта. Например, мошенники генерируют скрипты для общения с жертвой, придумывают новые схемы, используют голосовых роботов, создают фейковые сообщения и многое другое. В рамках своего эксперимента мы подтвердили простоту совершения мошеннических действий с использованием современных технологий и отсутствие бдительности со стороны людей.
Целью нашего эксперимента было показать вам один из возможных вариантов совершения мошеннических действий с помощью искусственного интеллекта, чтобы в дальнейшем вы не стали жертвой подобных обманов.
Поэтому давайте сформулируем несколько правил безопасности, на которые стоит обращать внимание при какой-либо коммуникации в сети:
1. Тщательно присматривайтесь к изображениям
Было проведено достаточно большое количество исследований, которые подтвердили, что достаточно большое количество людей не могут отличить реальное фото человека от генерации нейросети. Однако, есть несколько критериев, которые могут с этим помочь:
- нейросети плохо справляются с отрисовкой рук и пальцев, часто выдавая их искаженными (на одной фото нашей Марии это можно заметить);
- глаза сгенерированного персонажа часто косят, или взгляд просто отсутствующий;
- аналогично пальцам нейросети не всегда достоверно генерируют зубы – часто их очень много, от чего получается “акулья улыбка”;
- нейросети плохо справляются с генерацией текста, поэтому на одежде персонажей вряд ли будет логотип какого-либо бренда;
- часто нейросети генерируют реалистичные кадры несуществующих людей слишком близко или просто “по шею”, т.к. обучены на крупных снимках – портретах людей. Фото в полный рост, да еще и с детализированным фоном – практически сверхзадача;
- абстрактный или слишком размытый фон на фотографиях;
- генерируемые нейросетью лица очень симметричны, из-за чего часто выглядят неестественно;
- артефакты генераций на аксессуарах или предметах одежды сгенерированного человека (кляксы, блики, искажения и т.п.).
2. Обращайте внимание на содержание сообщений
Нейросети хоть и обучены на наших данных, но общаться “по-человечески” им по-прежнему не сложно.
- нейросети могут употреблять несуществующие или неуместные слова в предложениях. Например, вспомним нашего Ивана, которого Мария назвала “всёстрелом” или Александра, который по словам нашей девушки “ее раскусил(а)”;
- ответы нейросети часто могут быть однотипными, часто повторяющимися или стереотипными;
- нейросети часто могут неверно интерпретировать контекст общения или смысл сообщений. Поэтому если собеседник не понимает ваших намерений или не отвечает на вопрос, это может быть признаком того, что вы общаетесь с машиной;
- нейросети плохо шутят. Чувство юмора, конечно, вещь индивидуальная, но попытки это сделать со стороны нейросети, как правило, выглядят неестественно и уж простите, просто кринжово;
- в голосовых сообщениях стоит обращать внимание на неестественные паузы, неправильное ударение в словах, нелогичные сдвиги в контексте и другие подобные аномалии.
Будьте внимательны и любите в людях душу (:
