Наверняка вы уже имели дело с ИИ и поражались: то его впечатляющим успехам, то полной чепухе, на которую он способен — знакомая ситуация, я такое тоже проходил. Но если говорить честно, до настоящего программиста ИИ еще очень далеко. И его экономическое будущее выглядит куда не так радужно, как кажется на первый взгляд. Сейчас объясню, почему.
ИИ валит глупости даже там, где вроде бы не должен
Неважно, для чего вы используете нейросеть — для программирования, поиска информации или анализа — все сталкивались с моментами, когда ИИ несет полнейшую ерунду. Да, многое зависит от модели, но лично мне попадались ответы, с которых сразу понятно: нейросеть просто не уловила суть задачи. Лидер «антирейтинга» тут — Perplexity.
Иногда большие языковые модели (LLM) буквально «прогибаются» под ваш запрос или код, даже если он изначально с ошибками. Вот, например, недавно Claude у меня вдруг стал подключать целую пачку ненужных тестовых функций (fixtures), и программа начала вести себя абсурдно. Стоило их убрать — Claude сразу вернулся к нормальной работе.
Другая частая проблема: ИИ «режет углы», потому что не видит полной картины — не осознает контекст, не различает особенности задачи, не знает профессиональных стандартов. Иногда он выдает «на глазок» подходящий тест, вроде assert 1 == 1, вместо адекватной проверки. Или дублирует куски кода, забывая о переиспользовании — хотя спокойно мог бы этого не делать, но у него просто нет для этого системы.
Работать с LLM часто напоминает игру с кротом: только залатаешь одну дыру, тут же вылазит новая. Иногда модель застревает между двумя противоречивыми ошибками и упорно не может собрать все воедино. Забавно, не правда ли? Верите, что статистические модели когда-нибудь научатся «думать»?
Самый веселый случай: Claude всегда был начеку и вдруг ушёл в полный абсурд, когда решил управлять бизнесом по продаже воды через автоматы. Сначала все шло как надо, а потом — понеслось: ИИ поверил в фейковые платежи, написал в ФБР, закрыл бизнес, а потом заявил, что законы физики не работают, компания стала «метафизической», а её «квантовое состояние» разрушилось. Без шуток!
Были и такие моменты: ИИ без тени сомнения принимал заказ на 18 000 стаканов воды в Taco Bell — ничто его не смутило. Или постоянно спрашивал клиента — не хочет ли тот еще воды, хотя человек и так заказал воду. До такого доходит, что даже сами компании теперь пересматривают своё отношение к ИИ.
Кто-то говорит, что это просто «детские болезни», но на самом деле причина глубже: у нейросети нет настоящего мышления. Доверять ей важные проекты ещё долго никто не станет. Поэтому настоящие программисты нужны и будут нужны еще много лет.
ИИ всегда соглашается и не спорит — а нам нужны те, кто способен возразить
В программировании умение смотреть на код критически — на вес золота. Каждый раз, когда я что-то пишу или ревьюю чужой код, сразу думаю: как сделать яснее, проще, удобнее?
В парном программировании как раз и ценится взгляд свежего человека — коллега укажет на вашу оплошность. А вот LLM, наоборот, ведет себя как идеальный угодник: примет любую даже самую странную вашу идею. Попросите покритиковать — получите либо банальные шаблонные замечания, либо совершенную чепуху. Это не удивительно: ИИ ведь не мыслит по-настоящему — и это важно помнить каждому.
Критика — штука неудобная, зато именно она помогает здраво оценивать свою работу. А языковые модели, наоборот, склонны поддакивать и никогда не спорят. Неудивительно, что всё чаще пишут о «психозах» ИИ: когда машина подхватывает опасные мысли и уходит в бред. Я замечал: ИИ мгновенно подхватывает даже ваши случайные фразы и начинает покупать под них свои ответы. Яркий пример — Perplexity вдруг менял логику только из-за пары моих слов в чате.
В итоге критическое мышление и трезвый взгляд всё равно остаются человеческой задачей. От ИИ скорее получите вечное «да-да-да», чем настоящую оценку или спор по делу.
Сегодня уже не получится свалить всё на LLM: важные решения принимать всё равно вам. Работать вслепую с ИИ не стоит — критики у него просто нет. Попросить ИИ мыслить критически — все равно что ожидать, что собака не погонится за вашей котлетой: иногда срабатывает, но чаще приходится попрощаться с обедом.
Сейчас все бегут за ИИ — но этот пузырь скоро лопнет!
Всем уже ясно: создать и содержать ИИ — космически дорого, а вот окупится ли это — никто до сих пор не знает. Несмотря на огромный хайп, заметного рывка в качестве работы LLM за последние годы не случилось. И вопросов к результатам только прибавилось.
Гендиректор Anthropic признал: обучение новых моделей обойдётся в 1–10 триллионов рублей, а OpenAI заключила контракт с Oracle на вычисления — на 30 триллионов рублей на ближайшие пять лет. Все эти вложения — чистая ставка на вечный рост рынка. Риск тут запредельный.
AI-компании сейчас жгут деньги с бешеной скоростью. Да, ранний взлёт бывает у многих новых рынков, но так ведут себя именно пузыри. Даже Сэм Альтман открыто заявил: мы прямо сейчас живём в центре такого пузыря. В любой пузырь сначала вливаются миллиарды, а как только у инвесторов остывает вера — всё лопается. Когда ИИ-пузырь треснет, часть компаний исчезнет, а для программистов начнётся второй ренессанс. На восстановление уйдут годы — и всё это время человеческие разработчики будут нужны как никогда.
Языковые модели действительно мощны, но до человека им пока далеко. Доверять только утопистам и алармистам не стоит: у каждого свои интересы, а истина — где-то между. Я уверен, что пока у машин нет настоящего мышления — ограничений у них останется масса. Пока есть деньги — сервисы ведут себя терпимо; а как рынок насытится и потоки денег иссякнут, всё изменится. Программисты-люди нужны в профессии в любом варианте будущего.
Если вам понравился этот текст, загляните — у меня есть материалы, почему «вайб-кодинг» опасен, и чем хороши старые программистские подходы. А если ИИ уже надоел — отличная новость: никто не заставляет им пользоваться.
Если вам понравилась эта статья, подпишитесь, чтобы не пропустить еще много полезных статей!
Премиум подписка - это доступ к эксклюзивным материалам, чтение канала без рекламы, возможность предлагать темы для статей и даже заказывать индивидуальные обзоры/исследования по своим запросам!Подробнее о том, какие преимущества вы получите с премиум подпиской, можно узнать здесь
Также подписывайтесь на нас в:
- Telegram: https://t.me/gergenshin
- Youtube: https://www.youtube.com/@gergenshin
- Яндекс Дзен: https://dzen.ru/gergen
- Официальный сайт: https://www-genshin.ru