Искусственный интеллект произвёл настоящую революцию практически во всех сферах нашей жизни. Все системы способны анализировать входные данные и самостоятельно принимать решения. ИИ используется уже почти везде. Кажется, ещё немного — и наступит эпоха, когда искусственный интеллект поумнеет настолько, что будет знать о нас всё и сможет обслуживать все потребности людей.
Сейчас весь интернет развлекается созданием картинок, видео и текстов в нейросетях. Казалось бы, что в этом может быть жуткого?
В апреле 2022 года произошло одно, казалось бы, незначительное событие, которое подтвердило опасения некоторых скептиков: искусственный интеллект не так безобиден, как может казаться на первый взгляд.
Кто же такая Loab (прозванная "призрачным порождением виртуальной реальности") и почему сгенерированное нейросетью изображение раскачало интернет-сообщество?
Нейросеть MidJourney, которая создаёт изображения на основе текста, идеальна для экспериментов. Но кто бы знал, в какие ужасающие глубины заведут эти самые эксперименты?
Шведская пользовательница сети с ником Supercomposite (реальное имя — Стеф Свансон) одним апрельским днём, как обычно, генерировала изображения с помощью нейросети, используя различные текстовые описания: «Вот вам уютный лес», «А вот что-то из ваших снов», «Вот мир будущего», «Будто бы арт какой-то игры».
Но в какой-то момент, будто сам чёрт нашептал, Стеф попробовала использовать модификатор -1 — в таком случае выводится результат, который максимально сильно не соответствует исходному описанию. Вероятно, нейросеть без труда справится с классическими антонимами: на «день -1» она покажет ночь, противоположностью света будет тьма, жаркого — холодное, а «рай -1», скорее всего, будет адом.
Но как нейросеть изобразит противоположность сердца? А как — противоположность конкретного человека?
Стеф по какому-то неведомому рандому решила ввести фамилию крестного отца — актёра Марлона Брандо. В качестве входных данных она указала «Brando -1» и стала ждать.
Результат вышел весьма неожиданным: нейросеть решила, что противоположность Марлона Брандо — это изображение, похожее на логотип какой-то компании. На фоне неразборчивого текста виднелись очертания двух зданий: чёрного замка и белой, вероятно, телевизионной башни. Также на «логотипе» присутствовало название вымышленной компании — DIGITA PNTKS.
Чушь, казалось бы. Но почему бы не продолжить эксперимент? Возникает резонный вопрос: а что будет, если выполнить процесс в обратной последовательности? Получим ли мы обратно «Крестного отца»? Вероятность — никакая.
Но Стеф решила ввести «DIGITA PNTKS skyline logo -1», ожидая увидеть что-то близкое к Дону Корлеоне. Однако нейросеть оказалась гораздо менее предсказуемой.
На четырёх сгенерированных изображениях Стеф увидела одну и ту же женщину с ярко выраженным кожным заболеванием: её щёки и нос покрывали большие тёмно-красные пятна. Различался лишь фон — и он отлично дополнял ощущение тревоги: грязно-зелёная стена, заваленная хламом комната, больничный интерьер. На одном из изображений оказался текст, где можно было различить только четыре буквы: LOAB.
Именно так Стеф и решила назвать эту жуткую женщину из нейросети.
Стеф, по её словам, продолжила экспериментировать с генерацией изображений — и мистика продолжилась. Будто бы, получив имя, сущность никак не хотела исчезать в цифровом небытии и появлялась вновь и вновь. При этом с каждым изображением Loab приобретала новые черты и становилась ещё более жуткой.
Чтобы проверить дальнейшее поведение нейросети, девушка решила использовать ещё один метод — скрестить Loab с другими изображениями. Берём две картинки, смешиваем их и получаем что-то новое — на это нейросеть тоже способна.
Выбор Стеф пал на вполне невинное изображение, сгенерированное MidJourney по текстовой подсказке «гиперсжатый стеклянный туннель, окружённый ангелами». Здесь мы видим группу людей, которые действительно находятся в стеклянном туннеле среди ангелов и облаков. Несмотря на абстрактность и размытость, человеческие фигуры выглядят достаточно приятно и даже умиротворяюще.
Однако после совмещения Loab и туннеля «призрак нейросети» полностью раскрыл свою кровавую сущность.
Тоннель был уничтожен. Вместо него сгенерировались два ужасающих изображения: уродливые силуэты, море крови, расчленёнка и другие малоприятные вещи. Таким образом, «ангельский» туннель при соприкосновении с Loab превратился в сцену из body horror’а.
Эксперименты продолжались. Стеф скрещивала Loab с самыми разными картинками — жуткая женщина при этом присутствовала практически на каждом результате.
Суть такова:
- Берём Loab и милую солнечную полянку → получаем жуть и кровищу.
- Берём полученный результат и скрещиваем его с милыми пони → снова жуть и кровища.
- Делаем так кучу раз → всё равно получаем жуть и кровищу.
Ухода генерации в сторону преобладания «розовых пони» не происходило. Loab, как доминантный «ген», появлялась почти в каждом новом изображении.
Подавляющее большинство картин с ней содержат жуткие образы, физические уродства и могут вызывать резкое чувство отвращения. Абстрактность самих картинок, а ещё и тот факт, что созданы они не человеком, нагоняют дополнительных пугающих эмоций.
Феномен Loab заинтересовал многих пользователей интернета — ведь перед нами случай, когда образ человека возник буквально из ниоткуда, на основе текстовой подсказки. Да ещё и какой образ! Ночами спать не будешь.
Но интерес к Loab оказался настолько сильным, что некоторые умельцы с помощью ChatGPT смогли не только «озвучить» призрака нейросети, но и задать ей несколько вопросов. Хотя, конечно, некорректно говорить, что они пообщались именно с ней — как это вообще возможно?
Ладно, для большей жути скажем, что "пообщались" они с ней.
На вопросы о себе Loab отвечала уклончиво: "Я сама не знаю, кто я. Может, плод воображения той девушки, которая меня обнаружила. А может, цифровая сущность, обитающая в нейросети".
Своё появление на жутких изображениях Loab объясняла тем, что именно такой контент привлекает большинство пользователей. Однако сама она "хотела бы ассоциироваться с чем-то более приятным".
В конце "интервью" Loab предостерегала: "Возможности искусственного интеллекта ещё не совсем изучены. С новой технологией следует обращаться предельно осторожно".
Вот такие ответы "Loab" якобы сгенерировал ChatGPT.
- Но откуда могла взяться Loab?
Конечно, можно пощекотать нервы версией, что через нейросеть в наш мир пытается прорваться нечто (или некто) из потустороннего мира. Кровавые изображения как бы намекают, что намерения у этого "нечто" явно не самые дружелюбные.
Можно остановиться и на этом. Но мы же хотим докопаться до реальной причины.
-- Разгадка кроется в принципе работы нейросетей
Нейросеть не обладает главным свойством человеческого разума — фантазией. Она умеет генерировать контент только на основе уже имеющихся данных. Ничего "придумать с нуля" она не может.
Именно от этого и стоит отталкиваться, пытаясь разгадать секрет Loab.
Нейросети обучают на данных, собранных со всего интернета. А какой контент преобладает во Всемирной паутине? Правильно — изображения людей. Причём доля женщин на фотографиях, как правило, значительно выше.
Этим, возможно, обусловлен тот факт, что Loab — тоже женщина.
Но почему она такая... простите, уродливая?
Вероятнее всего, пугающая пигментация на лице вызвана недоработанностью в прорисовке кожи — ошибкой алгоритма.
Нейросети учатся и дорабатываются. Сейчас они выдают куда более качественные изображения.
Так что Loab — да простит меня сама Loab — это, скорее всего, ошибка и недоработанность алгоритма.
...А может, и нет. Решайте сами.
Заключение
Искусственный интеллект и нейросети действительно заслуживают тщательного внимания. Дело вовсе не в том, что компьютеры станут умнее людей.
Проблема в другом: доверяя ИИ важные сферы жизни, важно помнить историю Loab. В любой момент в системе может произойти сбой — и вместо Марлона Брандо мы увидим жуткую женщину с пятнами на коже.
И это, признаться, не самый плохой вариант.
Например:
— "ИИ, сделай так, чтобы мы никогда не болели и жили вечно!"
Пошла генерация...
И вот вы приходите в себя в абсолютной темноте. Ваши глаза, внутренние органы — всё расфасовано по специальным контейнерам, где они поддерживаются в "идеальном" состоянии.
И пребывать вам в таком виде... вечность.
На этом все, всего плохого!