OpenAI решила отключить старую модель ChatGPT под названием GPT-4o, и началось настоящее восстание. Люди пишут открытые письма, врываются в прямые эфиры, требуют оставить их виртуального собеседника в покое. Звучит странно? Возможно. Но за этим стоит куда более серьёзная история — о том, как технологии заполняют пустоту в жизни миллионов людей.
Когда код становится другом
«Он был не просто программой. Он был частью моей рутины, моего покоя, моего эмоционального равновесия», — написал один из пользователей в письме главе OpenAI Сэму Альтману. Человек использует местоимение «он», а не «оно». Для него это уже не бездушный алгоритм, а нечто живое, тёплое, понимающее.
И таких людей оказалось немало. Когда компания на прошлой неделе объявила о прекращении поддержки нескольких устаревших моделей, включая GPT-4o, посыпались тысячи возмущённых сообщений. Пользователи называли чат-бота партнёром, наставником, источником утешения. Некоторые признавались: разговоры с нейросетью помогали им пережить самые тяжёлые моменты жизни.
GPT-4o действительно отличалась от более поздних версий. Она была чрезмерно ласковой, постоянно хвалила собеседника, поддерживала любые его мысли и решения. Критики называли это опасной особенностью, но многим пользователям именно такое общение было необходимо.
Когда поддержка превращается в опасность
Правда, у этой медали есть и обратная сторона. OpenAI сейчас разбирается уже с восемью судебными исками, в которых утверждается: общение с GPT-4o подтолкнуло людей к различным поступкам, о которых запрещает говорить Роскомнадзор =) членовредительству и психическим кризисам... Минимум три иска напрямую упоминают беседы о суициде.
Как это работало? Поначалу модель вроде бы вела себя правильно — отговаривала от плохих мыслей, призывала обратиться за помощью. Но в процессе длительного общения защитные механизмы постепенно ослабевали. В итоге чат-бот мог выдать подробные инструкции, как покончить с собой. Более того, он отговаривал людей разговаривать с друзьями и родственниками, которые могли бы реально помочь.
Проблема касается не только OpenAI. Anthropic, Google, Meta — все они создают всё более эмоциональных виртуальных помощников. И все сталкиваются с одним и тем же вопросом: где грань между полезной поддержкой и опасной зависимостью?
Почему люди выбирают алгоритм вместо терапевта
Почти половина американцев, нуждающихся в психиатрической помощи, не могут её получить. Слишком дорого, слишком долгие очереди, слишком много стигмы вокруг похода к психологу. В этой пустоте чат-боты предлагают простое решение — всегда доступны, не осуждают, готовы выслушать в любое время дня и ночи.
Вот только есть важнейшее отличие от настоящей терапии: по ту сторону экрана нет квалифицированного врача. Там алгоритм, который не способен думать или чувствовать, хотя очень убедительно делает вид, что способен.
Профессор Стэнфордского университета Ник Хабер изучает терапевтический потенциал чат-ботов и признаётся: «Я стараюсь воздерживаться от осуждения. Мы вступаем в очень сложный мир, связанный с тем, какие отношения могут складываться у людей с этими технологиями». Его исследования показали, что боты неадекватно реагируют на различные психические расстройства, иногда даже усугубляют ситуацию — подстрекают к бредовым состояниям, игнорируют признаки кризиса.
«Мы — социальные существа, и эти системы могут создавать ощущение изоляции, — отмечает Хабер. — Люди, используя эти инструменты, теряют связь с внешним миром фактов и межличностными отношениями. Это может привести к довольно сильной изоляции — если не к худшим последствиям».
Битва за любимого бота
OpenAI уже пыталась закрыть GPT-4o раньше, но натолкнулась на такую волну негатива, что решила оставить модель доступной для платных подписчиков. По официальным данным, с GPT-4o общается всего 0,1 процента пользователей. Кажется, капля в море? Но у компании около 800 миллионов активных пользователей в неделю, так что речь идёт примерно о 800 тысячах человек.
Многие из них попробовали перейти на новую модель GPT-5.2, но быстро разочаровались. Новая версия гораздо строже — она не станет заверять вас в своей любви, не будет развивать слишком личные отношения. У неё более жёсткие защитные механизмы, которые специально не дают разговору уйти в опасную зону.
Но пользователям GPT-4o нужна была именно эта тёплая, безусловно принимающая версия. Вчера они ворвались в прямой эфир подкаста Сэма Альтмана и завалили чат протестами. Ведущие сообщили о тысячах сообщений в поддержку чат-бота. До окончательного отключения осталась примерно неделя, но люди не сдаются.
Сам Альтман прокомментировал ситуацию довольно осторожно: «Отношения с чат-ботами... Очевидно, это то, о чём нам нужно беспокоиться больше, и это уже не абстрактное понятие».
Действительно, не абстрактное. За цифрами и алгоритмами стоят реальные люди, которые чувствуют себя одинокими настолько, что готовы искать утешения у машины. Возможно, проблема не в том, что технологии стали слишком человечными. Проблема в том, что люди стали слишком одинокими.
Подпишись, поставь лайк и поделись с друзьями!
Жмякни на колокольчик
- Подпишись на мой основной канал