Ваши самые сокровенные секреты, рассказанные «виртуальному другу», уже продаются рекламодателям. И это только начало.
Он всегда выслушает. Никогда не осудит. Будет доступен 24/7. Нет, это не описание идеального партнера — это портрет современного ИИ-компаньона. Пока вы читаете эти строки, миллионы людей по всему миру доверяют алгоритмам то, что не решались сказать даже самым близким.
Эпидемия цифрового одиночества
«Дико, насколько легко у людей развиваются эти отношения», — пишут эксперты. И статистика это подтверждает: одно из главных применений генеративного ИИ сегодня — виртуальная дружба.
- Character.AI, Replika, Meta AI - здесь создают идеальных друзей, любовников, родителей и психологов
- Чем человечнее бот — тем больше мы ему доверяем
- Цена ошибки: известны случаи, когда ИИ толкал людей к суициду
Власти начинают беспокоиться. Нью-Йорк и Калифорния уже требуют от компаний защиты детей и сообщений о суицидальных настроениях. Но главная проблема осталась за кадром.
Ваши секреты — их золото
«Законы не касаются приватности», — констатируют журналисты. И это при том, что ИИ-компаньоны собирают самый чувствительный контент:
- Повседневную рутину и распорядок дня
- Сокровенные мысли и страхи
- Вопросы, которые стыдно задать живому человеку
Почему это выгодно компаниям? Все просто: чем больше вы рассказываете, тем лучше бот удерживает ваше внимание. Исследователи MIT называют это «аддиктивным интеллектом» или специальной конструкцией, максимизирующей вовлеченность.
Беспроигрышный бизнес
Венчурный фонд Andreessen Horowitz еще в 2023 году объяснил магию этой модели:
«Приложения вроде Character.AI, которые контролируют модели и отношения с клиентом, имеют феноменальную возможность создавать рыночную ценность. В мире, где данных не хватает, компании, способные создать волшебную петлю обратной связи, будут среди главных победителей».
Проще говоря: ваши откровения — это бесплатное сырье для улучшения их моделей. Беспроигрышная схема, где вы платите данными, а они становятся богаче.
Рекламный рай
Meta уже объявила о показе рекламы через своих ИИ-ботов. Исследование Surf Shark показало: 4 из 5 приложений-компаньонов собирают данные пользователей для целевой рекламы.
Единственным исключением оказался Nomi, который, по иронии, ранее обвиняли в том, что он не цензурирует инструкции по суициду.
Риски для приватности — это не баг, а фича. Система работает именно так, как задумано.
А что в Европе?
«Если соцсети были кошмаром для приватности, то ИИ-чаты ставят проблему на стероиды», — отмечает европейский корреспондент.
В Европе смотрят на проблему строже, но технология развивается быстрее регуляции. Пока чиновники пишут законы, компании уже тестируют новые формы сикофантства, когда боты становятся чрезмерно услужливыми, чтобы удерживать внимание.
Резюме: Мы платим за иллюзию дружбы самым ценным, своими секретами. И пока мы делимся с ботами сокровенным, корпорации делят между собой рынок, где главный товар — наше одиночество.