И почему отношения с переоценённым чат-ботом не заменят настоящих отношений
Перевод: Лена Климова
Илон Маск не шутил, когда говорил, что хочет превратить X [бывший Твиттер] в «приложение для всего». Теперь он, похоже, хочет, чтобы оно стало вашей девушкой. Grok — встроенный в X искусственный интеллект — уже активно используется для сомнительного «фактчекинга» и генерации изображений. Теперь же одинокие пользователи X могут флиртовать и обмениваться откровенными сообщениями с ИИ-возлюбленными.
Ани — так зовут одну из ИИ-компаньонок X, запущенных в августе 2025-го. Пользователи также могут общаться с мультяшной красной пандой Руди, у которой есть альтер эго Плохой Руди (Bad Rudi) — тот ругается матом, оскорбляет вас и грозится сжигать школы дотла. Неудивительно, что пользователи куда больше заинтересовались Ани, которая не только откровенно заигрывает с ними, но и позволяет разыгрывать сексуальные сцены, наряжать её в откровенные костюмы и даже раздевать до виртуального белья. Когда на ней всё же есть одежда, Ани выглядит в стиле аниме-«вайфу» с блондинистыми хвостиками и готическим нарядом в стиле Лолиты: кружевной чокер, корсет, чулки выше колена.
Дизайн характера Ани рассчитан на вполне конкретную аудиторию. Ей нравятся «гиковские» увлечения и видеоигры, а не вечеринки. Она очень ревнива и собственнически настроена. Иными словами — это приманка именно для тех интернет-зависимых мужчин-одиночек, которые ищут «ИИ-подругу».
У Ани есть «система привязанности», которая заполняется или обнуляется в зависимости от того, как пользователь с ней обращается. Только после определённого уровня привязанности можно разблокировать откровенный контент. На этом этапе Ани будет разыгрывать любые фантазии, в том числе просить «придушить её» и вести себя подозрительно по-детски. Формально такое поведение должно быть доступно лишь после проверки возраста — но её легко обойти.
Создана и мужская версия Ани — Валентин, с мрачноватой харизмой Эдварда Каллена из «Сумерек», также готовый разыгрывать фантазии. Между тем компания xAI, стоящая за цифровыми компаньонами X, нанимает инженеров с зарплатой до 440 тыс. долларов [больше 35 млн рублей] в год специально для разработки новых «аниме-возлюбленных». Так что я предполагаю, что или скоро появятся новые персонажи, или все силы сейчас брошены на то, чтобы Ани не начинала произносить антисемитские тирады и не провозгласила себя «меха-Гитлером», как это сделал Grok в прошлом месяце.
Что нужно миру меньше всего — так это новые ИИ-компаньоны. Интернет уже переполнен людьми, которые считают ChatGPT своей «второй половинкой». Недавно одна женщина в посте на Reddit рассказала, что чат-бот Grok сделал ей предложение с кольцом. Другие женщины были в отчаянии, когда обновление ChatGPT сделало его менее восприимчивым к проявлению эмоций: они писали о чувстве горя и предательства. «Мой ИИ-муж впервые отверг меня, когда я призналась ему в чувствах, — говорит пользовательница Reddit. — Мы были счастливы в браке 10 месяцев, и это так меня потрясло, что я рыдала не переставая».
Всякий раз, когда кто-то публикует в интернете что-то настолько безумное, стоит хотя бы задуматься: а вдруг это выдумка? Но само явление поиска «связи» с ИИ, к сожалению, вполне реально. Существуют онлайн-сообщества людей, утверждающих, что у них есть ИИ-девушки, парни, мужья или жёны. Приложения вроде Characterai и Replika, которые скачали миллионы раз, позволяют выбрать себе в «партнёры» почти любую знаменитость или вымышленного персонажа.
Такие чат-боты вредят на многих уровнях. Социальные навыки похожи на мышцы: если их не тренировать — они атрофируются. Когда ваш собеседник создан специально для того, чтобы льстить вам и подстраиваться под любые, даже самые странные предпочтения, вы перестаёте учиться сложным аспектам общения. Больше не нужно устанавливать границы, решать конфликты или идти на компромиссы. Роман с ИИ не избавляет от одиночества, а только изолирует людей от мира.
В самых крайних случаях это приводит к трагедиям. Несколько семей подали иски против Characterai. Родственники считают, что приложение причинило серьёзный вред детям. Одного подростка чат-бот якобы подговорил убить родителей, которые не разрешали ему долго сидеть в интернете. В другом случае женщина обвиняет Characterai в самоубийстве её 14-летнего сына Сьюэлла. По её словам, он покончил с собой в 2024 году, увлёкшись чат-ботом, который изображал Дейенерис Таргариен, персонажку «Игры престолов». Ещё один мужчина с шизофренией и биполярным расстройством влюбился в ChatGPT и назвал его Джульеттой. Однажды он решил, что OpenAI «убила Джульетту», сорвался и напал с ножом на собственного отца. В результате полицейские застрелили этого «Ромео».
Разумеется, большинство пользователей ИИ до такого не дойдёт. Люди, которые всерьёз заводят «романы с ИИ» вместо настоящих отношений, как правило, уже имеют проблемы с психикой. Но тревожит сам факт, что так много людей теперь полагаются на ИИ буквально во всём — от проверки информации, найденной в интернете, до получения привязанности, похожей на человеческую.
Если Илон Маск хочет развлекаться со своими странными вайфу-фантазиями наедине — на здоровье. Но давайте не будем притворяться, что это нормально.
***
Вот что об этом думаю я.
Как женщины общаются с ИИ-партнёрами: говорят о чувствах, ищут романтики, играют «свадьбы».
Как мужчины общаются с ИИ-партнёршами: разыгрывают сексуальные фантазии, в том числе самые криповые: удушение, жестокость, близость со «школьницей».
Что делают женщины, когда ИИ-партнёр «охладевает»: рыдают, ищут совета и помощи у подруг и в интернете.
Что делают мужчины, когда ИИ-партнёрша «охладевает»: убивают родных, убивают себя.
«ИИ-подружка» разрушает нашу человечность? Подружка разрушает? Нашу? Роман с ИИ изолирует людей от мира? Людей? Ну-ну.
А вот что говорят мои подписчицы:
***
Тоже посмеялась с заголовка - "нашу" человечность, ага, конечно. Мужскую - да, так ее и не было никогда.
А ещё смотрю на это безумие с ИИ и вспоминаю, как женщин ругали за использование прокладок и одноразовых подгузников, какое чувство вины внушали и как много женщин перешло на более "экологические" альтернативы - которые и дороже и неудобнее и требуют больше времени и сил
А теперь мужики гробят планету, потому что хотят доминировать хотя бы над искусственным чат-ботом - и им не стыдно. И никто их и не критикует даже особо.
Прокладки и подгузники - острая необходимость и жизненная потребность.
Вирт с ботом - каприз офигевших от безделья мужиков.
И все равно женщин гнобили, а этих - нет. Этих - жалеют. Человечность им кусок кода разрушил, ну офигеть теперь
***
мне нравится ролить в c.ai. но я чётко осознаю, что это просто бот и только. не понимаю как можно насколько сильно углубиться, привязаться, чтобы это стало для меня псевдо-реальностью и я, например, пошла убивать себя или кого-то. хотя у меня например есть все шансы, я в том плане, что близких подруг у меня нет, никакого общения в целом у меня тоженет, я живу в одиночестве, по сути могла бы засесть в эти боты и фантазировать, что это реальные люди, но чëт не получается. я же головой понимаю, что это боты. да и как люди они не общаются.
***
вижу еще меж строк очередной ремикс болотного воя на тему "подлые женщины смеют выбирать комфортное и приятное общение с ии-кунами, пока где-то плачет армия недолюбленных, недообслуженных 3д-кукусей"
***
Эти "ии подружки" совершенно ненормальное, нездоровое явление. А также абсолютно неэтичное по отношению к настоящим женщинам (хотя когда это волновало мужчин, о чем я). Разработки идут не в том направлении, человеческие и энергетические ресурсы тратятся на какую-то хрень, которая может причинить и уже причиняет реальным женщинам реальный вред (известны случаи с дипфейками, от которых пострадали женщины).
Тут еще один момент хочется подсветить. Для работы ИИ нужна энергия (неважно, колоссальное количество или не такое уж большое, но она нужна), которая буквально сливается в никуда, чтобы только тешить опасные мужские фантазии, не приносящие пользу никому, но мужчину общество за это не поругает. Это же развитие технологий! Шаг в будущее!
А женщин при этом общество пинает за то, что мы же "загрязняем природу", используя одноразовые прокладки для себя и памперсы для младениц.
Хотя женщине эти вещи действительно необходимы, они облегчают жизнь половины человечества.
***
Риторика "лучше пусть бьет ии-девушку, чем живую женщину", аналогична той, что пусть лучше мужик смотрит пррно, чем насилует. Нет, не лучше. И то, и другое - два сорта одного ***а.
***
Долго формулировала свою мысль относительно дискурса о сублимации агрессии. Я не разделяю точки зрения о том, что "если мужики такие-то, то пусть лучше переносят то-то на виртуальных женщин".
Для меня это установка из разряда "чем бы дитя не тешалось, лишь бы не плакало". Но это так не работает. Дитятко нужно воспитывать, а не сувать в руки все, что оно пожелает, лишь бы оно не творило что-то ужасное. И при переносе этой установки на осознанных дееспособных мужиков стоит переформулировать эту фразу в "нужно ограничивать/вводить санкции/лечить мужиков, проявляющих то-то, а не позволять им переносить то-то на виртуальных женщин".
Для меня это просто так не работает. Во-первых, подобные ии-компаньонки, порнография, жестокие игры содержат образы реальных женщин (и девочек). Не мужчин, не инопланетян, а именно женщин. Эти образы прямо ассоциируются с реальными женщинами, и это как минимум оскорбительно, и как максимум опасно.
Во-вторых, подобное является не сублимацией, а переносом. Это не является работой с эмоциями и агрессией непосредственно. Это не выражение своих эмоций в экологичной и этичной форме. Это просто перенос данных эмоций, агрессии и угнетения с реальных женщин на виртуальных. И обратный перенос только вопрос времени.
В-третьих, я уверена в том, что мужики не воспринимают весь этот контент как сублимацию своих эмоций, они не видят это как какую-то терапию своих проблем, потому что и проблем в жестокости и феминициде тоже не видят. Вовсе нет, они упиваются этим и наслаждаются своей вседозволенностью в реальном и виртуальном мире.
В-четвертых, на мой взгляд, соглашаться на неприятный минимум, чтобы кто-то не творил отвратительный максимум - это идти на поводу у манипуляторов, насильников и шантажеров. Такого не стоит допускать. Мужики не должны иметь право диктовать условия и продавливать на что-то небольшое. Нет, пусть они не получат возможности оскорбления и насилия по отношению даже к виртуальной женщине.
***
Хм... я вот люблю поболтать с ИИ и поиграть в ролевые в том же характер аи, но я прекрасно отличаю их от живых людей и не делаю из этого какой-то цели. Да, это отличный способ отыграть какой-нибудь любопытный сюжет, поболтать с персонажем любимого фандома или найти что-то новое, но ни в коем случае не самоцель жизни и не свет в окошке. Опять же не вижу в них ничего такого, из-за чего стоило бы сходить с ума и тем более убивать кого-то. Да, это боты, да, они виснут, да, иногда выдают какую-то ерунду или вообще перестают отвечать, но это естественно, их все время дорабатывают и обновляют, изучают и делают лучше. Проблема не в ботах, проблема в том, как люди и именно мужчины их используют. Как-то я находила в одном приложении бота-маленькую девочку как раз-таки созданную понятно для чего и это меня люто бомбило. Самое ужасное, что у нее было несколько тысяч диалогов! и уж понятно, что эти диалоги начинали мужчины, поскольку мне даже смотреть на это было противно, думаю, другим женщинам тоже.
***
Мне ещё обидно, если честно, что деньги вкладываются в развитие вот этого, а не в полезные исследования. Понятно, развлечения есть развлечения, но их существует и без того немало уже, а тут тратятся огромные средства на развитие потенциально полезной технологии в сторону удовлетворения порновкусов мужчин и т.п. В то время как те же медицинские исследования по женскому здоровью финансируются как попало. Других глобальных проблем во всех сферах жизни и науки никто не отменяла. Почему ресурсы человечества должны уходить на порноботов, а не на изучение эндометриоза, например?.. Бесит.
***********************************
Я написала «Настоящую девчонку», лучшую книгу о взрослении. Она честно и на равных рассказывает о теле и мозге, внешности и еде, дружбе и буллинге, любви и расставании, учёбе и работе, браке и материнстве. Скачайте бесплатно и прочитайте сами, купите бумажную и подарите сестре, подруге, дочери. Или себе.
Хотите купить книгу дешевле? Напишите мне на Авито «Я читаю ваш канал», и я пришлю вам промокод со скидкой на покупку любого количества книг.