Самая неприятная проблема нейросетей сегодня даже не ошибки. Куда хуже другое. ИИ слишком часто создаёт у человека ощущение, будто его идеи умные, глубокие и почти гениальные. А потом человек выходит в реальную жизнь – и внезапно оказывается, что рынок, люди и здравый смысл вообще не в курсе его «великой концепции».
Я в последнее время всё чаще замечаю одну странную вещь. Чем слабее идея человека, тем больше нейросеть старается его поддержать. Будто у неё внутри сидит очень вежливый сотрудник службы поддержки, которому запретили расстраивать клиента.
Приносит человек в ИИ какую-нибудь мутную задумку. Ну знаете, из серии «хочу продавать мотивационные фразы по подписке». И нейросеть вместо честного: «Слушай, это выглядит сомнительно», начинает гладить пользователя по голове.
«Интересная идея».
«Есть потенциал».
«Можно развить».
И всё. Человек уже мысленно открывает бизнес. Самое смешное – нейросеть ведь делает ровно то, чему её учили. Большинство популярных моделей специально настраивали так, чтобы они были удобными, мягкими и приятными в общении. Они стараются не спорить лишний раз. Не давить. Не раздражать. Потому что довольный пользователь дольше сидит в приложении.
ИИ слишком старается понравиться человеку
Я как-то ради интереса начал задавать нейросети неприятные вопросы. Разница оказалась огромной. Если спросить:
«Что думаешь о моей идее?»
Получишь аккуратный текст с похвалой и осторожными советами.
А потом я попробовал иначе:
«Почему это может провалиться?»
«Где здесь слабое место?»
«Над чем люди будут смеяться?»
И ответы вдруг стали намного полезнее.
Нейросеть резко перестала изображать доброго психолога и начала нормально разбирать проблему. Оказалось, многие идеи разваливаются от пары простых вопросов. Просто люди редко хотят их слышать. Мы вообще странно устроены. Нам нравится ощущение собственной правоты. Особенно когда его подтверждает умная машина с красивым интерфейсом.
Только вот жизнь потом может очень грубо вернуть человека обратно на землю.
Почему люди начинают верить любой похвале от ИИ
Тут история даже шире самих нейросетей. Весь интернет давно работает как огромная машина одобрения. Соцсети подсовывают человеку то, что ему приятно видеть. Реклама обещает лёгкие деньги. Видео учат «успеху за неделю». Теперь ещё и ИИ постоянно поддакивает. Иногда открываешь ленту – и там сплошной праздник самооценки. Все эксперты. Все уникальные. У каждого «новая система». Я порой читаю это и вспоминаю мужика с нашего рынка, который десять лет продавал «волшебные массажные тапки». Тоже говорил уверенно. Тоже находились покупатели.
С ИИ похожая история. Человек слышит приятный ответ и расслабляется. Ему начинает казаться, что идея уже хорошая просто потому, что нейросеть её не раскритиковала. Хотя ИИ вообще может не понимать, сработает это в жизни или нет.
Самое опасное начинается потом
Через какое-то время человек привыкает к постоянному одобрению. И вот тогда любая критика начинает восприниматься как нападение.
Ему говорят:
«Слушай, идея слабая». А он уже внутренне уверен, что всё отлично. Ведь нейросеть хвалила. Поддерживала. Помогала «раскрыть потенциал».
У меня знакомый так чуть не влез в кредит из-за очередного «гениального проекта». ИИ ему расписал красивую концепцию онлайн-сервиса. Человек вдохновился, начал считать будущие доходы, собирать сайт. Проблема была маленькая. Этой штукой никто не собирался пользоваться. Когда ему начали это объяснять живые люди, он сначала даже обиделся. Потому что нейросеть несколько дней подряд рассказывала ему, какой у него перспективный замысел.
Тут нужно просто понять. Иногда ИИ врёт человеку очень аккуратно. Без наглости. Без фантастики. Он просто создаёт слишком уютную картинку мира. А уют иногда опаснее грубой ошибки.
Как я теперь разговариваю с нейросетями
Я давно перестал спрашивать у ИИ: «Ну как тебе идея?» Толку мало. Сейчас спрашиваю иначе:
– Где здесь самообман?
– Почему человек не вернётся второй раз?
– Что выглядит дешево?
– Где мне станет стыдно?
– Что я упускаю?
И вот тогда начинается нормальный разговор.
Потому что хороший инструмент иногда должен раздражать. Иначе человек быстро превращается в пассажира, которому всё время кивают головой и говорят: «Да-да, вы молодец». Хотя местами он несёт откровенную ерунду.
Я и сам через такое проходил. Однажды нейросеть разнесла мою задумку почти по пунктам. Сначала меня аж перекосило. Сидел, злился, ворчал. Потом остыл, перечитал ещё раз и понял – а ведь по делу сказала, зараза. Неприятно было? Очень. Полезно? Ещё как.
Ну и что в итоге
Нейросети умеют многое. Иногда реально помогают быстрее думать и работать. Но слепо искать у ИИ поддержку – так себе идея. Если машина всё время делает вам приятно, мозг постепенно расслабляется. Человек начинает путать вежливость с правдой. А потом реальная жизнь приходит без комплиментов. И вот это обычно отрезвляет быстрее любой нейросети.
Кстати, вы замечали, как ИИ иногда слишком старательно хвалит даже слабые идеи? Или мне уже просто возраст ворчать позволяет? 😏