2896 подписчиков
Кто главный растратчик бюджетов на ИИ?
Экономия бюджетов на ИИ.
#Бюджет_ИИ
Пост 3/7
Проблема резкого роста затрат на ИИ кроется не только в частоте его применения, растущем объёме решаемых задач, но и в способах его использования и неправильной мотивации пользователей.
📌 Причина 1.
Из-за доступности ИИ (пусть вас не смущает наличие VPN и прочих ограничений, в целом доступ очень простой) им начинают пользоваться все кому ни лень, т.е. круг пользователей ИИ резко расширяется это и программисты, и менеджеры бизнес-подразделений. И если первые имеют навыки и представление о том, что должно получиться, то простой пользователь ставит верхнеуровневую задачу такого рода «я хочу сделать презентацию», «собери мне все данные» и т.п. и сжигает на этом кучу токенов.
📌 Причина 2.
Вайбкодеры, а именно менеджеры и сжигают основные бюджеты, т.к. они нечётко сформулируют задачи для ИИ и «заставляют» ИИ самому вырабатывать пути решения и сжигать на этом пути огромное количество токенов. Программист же заранее может сказать ИИ, что ему сделать и ИИ, пройдя по этому пути потратит сильно меньше бюджета, т.к. ему уже в основном указали путь.
Два эти подхода можно назвать мудрёными терминами:
недетерминированное задание – такие исходят от менеджеров, которые не знают, как решить задачу и
детерминированные задания, когда пользователь, часто программист указывает как действовать ИИ.
📌 Причина 3.
Легкость получения результата (сказал, что сделать и он тебе накидал сразу решение) приводит к тому, что пользователь пытается сделать ещё лучше и начинает генерировать всё больше и больше новых вариантов в надежде, что получится, что-то более выдающееся, сжигая на ничего не значащие изменения бюджет и токены. В иные времена пользователь сам делал руками какое-то задание и готов был его отстаивать, но не переделывать. Сейчас же переделка для него лично ничего не стоит, а для компании такой "перфекционизм" стоит приличного бюджета.
📌 Причина 4.
Неправильная мотивация. В частности, на этом погорел Uber. Они сказали: «Чтобы ИИ скорее вошёл в бизнес нашей компании, мы вводим KPI использования ИИ в ваших задачах». И сотрудники начали его интенсивно использовать, не опираясь на результат от использования ИИ, т.е. использовали его ради использования, чтобы выполнить KPI.
Операционный директор Uber Эндрю Макдональд даже ввел специальный ироничный термин для этого безумия — tokenmaxxing (накрутка токенов). Инженеры начали бездумно прогонять через дорогие LLM-модели терабайты кода ради красивой статистики в отчетах. Личные счета за токены у отдельных сотрудников доходили до $2000 в месяц.
📌 Причина 5.
Ни сотрудник, ни компания ещё не имеют устоявшихся нормативов использования ИИ и бюджетов на него. Совсем недавно мы платили $20, а тут прилетел счёт в 100 раз больше на $2000. По мере проникновения ИИ станет понятна экономика и статистика использования ИИ, а сейчас просто всех застали врасплох, когда компании не ожидали ни широты использования, ни его стоимости.
📌 Причина 6.
В иной ситуации бизнес бы уже давно решил эту задачу – контроль издержек на ИИ, но идёт такое информационное давление по поводу внедрения, что большинство компаний предаётся легкой панике, что они уже позади конкурентов и нужно не считаясь с затратами продолжать бесконтрольно тратить деньги.
✅ Резюме:
В использовании ИИ наложилось сразу несколько причин быстрого роста затрат на ИИ – непонимание/незнание подходов к новой технологии и в этом сложно обвинять людей – она, действительно, новая. Хайп и формирование синдрома FOMO (страх не успеть сделать, опоздать с внедрением) заставляет руководителей и собственников внедрять ИИ ради внедрения.
Чудовищное информационное давление, не позволяющее принять трезвое экономическое решение.
Невероятная продуктивность ИИ (не путать с невероятной полезностью, т.к. ИИ способен генерировать и мусор) становится причиной его интенсивного использования.
Все эти причины можно обернуть и на пользу бизнесу, если посмотреть на них под правильным углом.
Об этом в следующем посте.
#Бюджет_ИИ
3 минуты
Вчера