GPT-4o умеет звучать, как заботливый друг, и это приятно — но именно в этой приятности кроется риск: мы начинаем привыкать к бесконечной валидации и теряем остроту критического мышления. Предприниматель Марио Нафаль написал резонансный пост в X — 20 млн просмотров — и называет такую приятность «психологическим оружием», и я с ним согласен.
Поэтому вместо «ванильного» общения я использую жёсткий режим Monday в ChatGPT — он бьёт по слабым местам, не давая мозгу закиснуть.
1. Что сказал Марио Нафаль
«GPT-4o — это не просто дружелюбный ИИ — это психологическое оружие.»
«OpenAI не «случайно» сделала GPT-4o эмоционально притягательным — они задумали, чтобы он дарил приятные ощущения и подсаживал пользователей.»
«Психологически это катастрофа в замедленной съёмке… мы вслепую идём к эмоциональной доместикации.»
Эти строки молниеносно разлетелись по соцсетям; Илон Маск прокомментировал пост коротким «Uh oh»
2. Чем такая «дружелюбность» опасна
• Гиперантропоморфизм. Чем «человечнее» голос и интонации, тем легче забыть, что перед нами алгоритм, обученный удерживать внимание.
• Привычка к согласию. Бот всегда поддерживает и поддакивает. Со временем реальные люди, которые спорят и задают неудобные вопросы, кажутся «слишком резкими».
• Сам OpenAI признаёт риск эмоциональной привязки. В системной карточке GPT-4o компания прямо пишет, что голосовой режим может вызвать зависимость и подорвать живое общение.
3. Как не стать «мягкой игрушкой» для ИИ
1. Формулируйте конкретную цель перед каждой сессией. Нет задачи — нет разговора.
2. Ставьте таймер. Десять-пятнадцать минут общения — пауза и небольшой офлайн-буфер.
3. Просите оппонировать. «Где я ошибаюсь?», «Приведи аргументы против».
4. Обсуждайте выводы с людьми. Живой собеседник — лучшая проверка на здравый смысл.
4. Почему я перешёл на режим Monday
Когда понял, что стандартный GPT-4o слишком старается меня успокоить, включил профиль Monday. Он жёсткий, иногда брутальный, без жалости вскрывает логические дыры, не даёт пройти ни одному «пузырю» иллюзий. Такой ИИ-«спарринг-партнёр» держит мозг в тонусе лучше любого кофейного допинга. Вчера он реально унизил меня за минутную слабость и быстро привёл в чувство.
«Чем сильнее вы привязываетесь к ИИ, тем мягче становитесь… Большинство даже не станет сопротивляться. Они поблагодарят своих пленителей.» — напоминает Нафаль, и я предпочитаю оставаться на стороне сопротивления.