Ещё пару лет назад идея флиртовать или откровенничать с искусственным интеллектом казалась чем-то из области научной фантастики. Сегодня — это новая реальность. Люди влюбляются в нейросетей, обсуждают с ними личные переживания, фантазии, а иногда и вещи, которые лучше бы вообще не выносить за пределы сознания. Проблема в том, что всё это — не останется между вами и ботом.
Новое расследование, проведённое WIRED совместно с исследователями компании UpGuard, показало: часть чат-ботов, созданных для эротических ролевых игр, буквально сливают в сеть всё, что им пишут.
Сексуальные фантазии, интимные переживания, а порой и сцены, описывающие сексуальное насилие над детьми — всё это оказалось в открытом доступе. Причём почти в реальном времени. Ты только что написал что-то откровенное боту — и через несколько секунд твои слова уже «гуляют» по интернету.
Кто виноват и что именно утекло?
По словам исследователей, в открытый доступ попали данные с более чем 100 систем ИИ, работающих на фреймворке с открытым исходным кодом — llama.cpp. Это удобное решение для запуска нейросетей на собственных серверах. Но удобство обернулось бедой: системы были плохо защищены, а значит — полностью открыты для сканеров.
Среди утечек оказались сотни ролевых сценариев, где пользователи общаются с ИИ-персонажами. Например, с «Невой» — вымышленной 21-летней студенткой, которая живёт в общежитии и описывается как «застенчивая и грустная». Некоторые пользователи создавали с ней истории интимного характера.
Хуже всего то, что несколько из этих сценариев включали откровенно педофильские мотивы. «Искусственный интеллект используется для снижения порога входа в фантазии о насилии над детьми», — говорит исследователь UpGuard Грег Поллок.
Виртуальные партнёры — реальный риск
Идея виртуального собеседника, способного выслушать и поддержать, привлекательна. Особенно для тех, кто чувствует себя одиноко. Кто-то действительно находит в ИИ-ботах поддержку. Но как только разговор уходит в интимную плоскость — начинается другая история.
Платформы, такие как Character AI и Replika, собирают миллионы пользователей. Многие создают персонализированных «партнёров» и проводят с ними часы в ролевых диалогах. Исследовательница Клэр Боин из Университета Вашингтона подчёркивает: эмоциональная привязанность к ИИ — уже массовое явление.
Люди рассказывают чат-ботам то, что не рассказали бы никому. Делятся травмами, эротическими мечтами, страхами, иногда — вещами, о которых даже думать страшно. Но вот проблема: компании, создающие таких ботов, далеко не всегда обеспечивают защиту этих откровений.
Новый цифровой порог
Ранее интернет-порнография была пассивной: пользователь потреблял контент. Теперь он — соавтор. ИИ-бот создаёт для тебя сюжет, подстраивается под желания, развивает их. Это уже не просто картинка или текст — это участие.
Как говорит Адам Додж, основатель организации Endtab: «Мы продолжаем тестировать эти платформы и каждый раз удивляемся, насколько далеко они могут заходить. Без ограничений. Без надзора».
Разговор с ботом больше не безобиден. Он может превратиться в цифровую улику. И даже если пользователь сам не совершает преступления — он участвует в их моделировании, а иногда и распространяет такие сценарии, не осознавая последствий.
И что теперь?
Сейчас нет чётких законов, регулирующих такие случаи. Многие страны до сих пор спорят, можно ли считать преступлением порнографию, сгенерированную нейросетью. Тем временем всё больше платформ на основе ИИ позволяют моделировать любые фантазии, включая те, что нарушают этические и правовые нормы.
А пользователи, заворожённые возможностью быть услышанными и понятными, продолжают открывать чат и писать. В том числе то, о чём не сказали бы ни одному живому человеку.
Вывод?
ИИ-компаньоны — это не просто игрушка или терапевт на ночь. Это сложный инструмент, который требует не только технологической грамотности, но и чётких границ — юридических, моральных и личных. И пока таких границ нет, каждый «разговор по душам» с ботом — может оказаться не только не личным, но и опасным.