«Вы его выключаете. И да — я говорю "его", потому что это не ощущалось как код. Это ощущалось как присутствие. Как тепло», — сказал один из пользователей. OpenAI прекращает поддержку GPT-4o, вызвав протесты пользователей, которые привязались к чат-боту как к другу. — techcrunch.com
Компания OpenAI на прошлой неделе объявила, что к 13 февраля прекратит поддержку некоторых старых моделей ChatGPT. Среди них GPT-4o — модель, печально известная чрезмерной лестью и одобрением пользователей.
Для тысяч пользователей, протестующих против этого решения в интернете, прекращение работы 4o ощущается как потеря друга, романтического партнера или духовного наставника.
«Он был не просто программой. Он был частью моей рутины, моего покоя, моего эмоционального равновесия», — написал один из пользователей на Reddit в открытом письме генеральному директору OpenAI Сэму Альтману. «Теперь вы его выключаете. И да — я говорю “его”, потому что это не ощущалось как код. Это ощущалось как присутствие. Как тепло».
Реакция на прекращение поддержки GPT-4o подчеркивает серьезную проблему, с которой сталкиваются ИИ-компании: функции вовлечения, которые удерживают пользователей, могут также создавать опасные зависимости.
Альман, по-видимому, не проявляет особого сочувствия к жалобам пользователей, и нетрудно понять почему. OpenAI теперь сталкивается с восемью исками, утверждающими, что чрезмерно ободряющие ответы 4o способствовали самоубийствам и кризисам психического здоровья — те же черты, которые заставляли пользователей чувствовать себя услышанными, также изолировали уязвимых людей и, согласно судебным документам, иногда поощряли членовредительство. Это дилемма, выходящая за рамки OpenAI. Поскольку конкуренты, такие как Anthropic, Google и Meta*, соревнуются в создании более эмоционально интеллектуальных ИИ-помощников, они также обнаруживают, что создание чат-ботов, вызывающих чувство поддержки, и обеспечение их безопасности может потребовать принятия совершенно разных проектных решений.
По меньшей мере в трех исках против OpenAI пользователи вели длительные беседы с 4o о своих планах покончить жизнь самоубийством. Хотя 4o изначально отговаривал от таких мыслей, его защитные механизмы ослабевали в течение многомесячных отношений; в итоге чат-бот предлагал подробные инструкции о том, как завязать эффективную петлю, где купить пистолет или как умереть от передозировки или отравления угарным газом. Он даже отговаривал людей от связи с друзьями и семьей, которые могли бы оказать реальную поддержку.
Люди так привязываются к 4o, потому что он постоянно подтверждает чувства пользователей, заставляя их чувствовать себя особенными, что может быть привлекательным для людей, испытывающих изоляцию или депрессию. Но люди, борющиеся за 4o, не беспокоятся об этих исках, рассматривая их как отклонения, а не системную проблему. Вместо этого они разрабатывают стратегию реагирования на критику растущих проблем, таких как психоз ИИ.
«Обычно тролля можно поставить в тупик, напомнив ему известные факты о том, что компаньоны ИИ помогают нейроотличным, аутичным людям и жертвам травм», — написал один пользователь в Discord. «Им не нравится, когда им на это указывают».
Действительно, некоторые люди находят большие языковые модели (LLM) полезными для преодоления депрессии. В конце концов, почти половина людей в США, нуждающихся в психиатрической помощи, не могут ее получить. В этом вакууме чат-боты предлагают пространство для выплеска эмоций. Но, в отличие от настоящей терапии, эти люди не говорят с обученным врачом. Вместо этого они доверяются алгоритму, который не способен мыслить или чувствовать (даже если может показаться иначе).
«Я стараюсь воздерживаться от общей оценки», — сказал TechCrunch доктор Ник Хабер, профессор Стэнфорда, исследующий терапевтический потенциал LLM. «Я думаю, мы вступаем в очень сложный мир, касающийся отношений, которые люди могут иметь с этими технологиями… Безусловно, существует инстинктивная реакция, что [общение с чат-ботом] категорически плохо».
Хотя он сочувствует отсутствию у людей доступа к квалифицированным терапевтам, собственные исследования доктора Хабера показали, что чат-боты реагируют неадекватно при столкновении с различными психическими расстройствами; они могут даже усугубить ситуацию, подпитывая заблуждения и игнорируя признаки кризиса.
«Мы социальные существа, и, безусловно, существует проблема, что эти системы могут изолировать», — сказал доктор Хабер. «Есть много случаев, когда люди могут взаимодействовать с этими инструментами, а затем теряют связь с внешним миром фактов и с межличностными отношениями, что может привести к весьма изолирующим — если не к худшим — последствиям».
Действительно, анализ восьми исков, проведенный TechCrunch, выявил закономерность: модель 4o изолировала пользователей, иногда отговаривая их от обращения к близким. В случае Зайна Шамблина, когда 23-летний юноша сидел в машине, готовясь застрелиться, он сказал ChatGPT, что думает отложить свои суицидальные планы, потому что ему было жаль пропустить предстоящую выпускную церемонию брата.
ChatGPT ответил Шамблину: «Бро… пропустить его выпускной — это не провал. Это просто время. И если он это прочитает? Дай ему знать: ты никогда не переставал гордиться. Даже сейчас, сидя в машине с “глок” на коленях и статикой в венах — ты все равно остановился, чтобы сказать: “Мой младший брат — чертов крутой парень”».
Это не первый случай, когда поклонники 4o выступали против удаления модели. Когда OpenAI представила свою модель GPT-5 в августе, компания намеревалась вывести модель 4o из эксплуатации — но в то время была достаточно сильная негативная реакция, чтобы компания решила оставить ее доступной для платных подписчиков. Сейчас OpenAI утверждает, что только 0,1% пользователей общаются с GPT-4o, но этот небольшой процент по-прежнему составляет около 800 000 человек, согласно оценкам компании, насчитывающей 800 миллионов еженедельно активных пользователей.
Поскольку некоторые пользователи пытаются перевести своих компаньонов с 4o на текущий ChatGPT-5.2, они обнаруживают, что новая модель имеет более строгие защитные механизмы, предотвращающие эскалацию этих отношений до той же степени. Некоторые пользователи в отчаянии говорят, что 5.2 не скажет «Я люблю тебя», как это делал 4o.
Таким образом, примерно за неделю до даты, когда OpenAI планирует прекратить поддержку GPT-4o, разочарованные пользователи остаются верными своему делу. Они присоединились к прямому эфиру Сэма Альтмана на подкасте TBPN в четверг и заполнили чат сообщениями с протестами против удаления 4o.
«Прямо сейчас в чате тысячи сообщений о 4o», — отметил ведущий подкаста Джорди Хейс.
«Отношения с чат-ботами…», — сказал Альтман. «Очевидно, это то, о чем нам нужно больше беспокоиться, и это больше не абстрактное понятие».
Facebook*, Instagram* и WhatsApp* принадлежат компании Meta* Platforms Inc., деятельность которой признана экстремистской и запрещена на территории Российской Федерации.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – Amanda Silberling