На сей раз порассуждаем про модный ИИ, которым я, как и большинство людей, сейчас пользуюсь. Пользуюсь каждый день и стараюсь изучать новые возможности.
Сперва позволю себе колкое замечание:
Чем дальше развивается ИИ – тем больше люди отключают мозг
Причем - бессознательно. Однако без ИИ уже нельзя, он прочно забетонировался в нашу жизнь.
И как быть – ответа у меня нет. Сам уже ловлю себя на мысли, что раньше я помнил код VBA, мог с чистого листа написать достаточно сложный макрос, а сейчас я нейроню его и лишь проверяю работоспособность … однажды даже «повесил» Power BI, но там уже был DAX язык.
Пока навыков хватает, но если так будет продолжаться – могу и забыть базу. Разве это нормально? А что, если отключатся сервера и ИИ перестанет работать? Понимаю, также говорили и про интернет, одна проблема. Вот сейчас наблюдаются отключения интернета по всей стране. Пока временные. Но представим, что его не будет … неделю или месяц? Вы где-то в глубинке должны сделать какую-то работу. Как быть?
Раньше можно было бы по памяти выполнить свою работу: составить договор, провести анализ данных, написать текст, отредактировать фотографию … Но сейчас – без вайбкодинга встанет процесс, без ИИ подсказок – остановятся многие процессы.
Есть множество доказательств и даже судебных исков на тему того, к каким последствиям может привести неправильное использование ИИ в работе. В основном все сводится к тому, что нейронка придумывает что-то на ходу, галлюцинирует и предлагает неправильное решение под красивой вуалью.
И я сейчас говорю не про шесть пальцев на руках на вновь созданной ИИшной картинке. Я говорю о более серьезных вещах. Таких как расчеты, математическое моделирование, аналитика, составление контрактов.
Сейчас нейронка по фотографии таблицы проводит анализ данных. Делает сложнейшие вычисления и приводит доказательную базу.
Но начинаешь проверять – в большинстве случаев ответ придуман или же представлено правильное решение на совершенно другую задачу. Лично для меня – если система выдаст мне быстрый ответ на 9 из 10 заданий, но я не знаю, в каком из них она неправильно посчитала – оценка такой работы есть двойка. Потому что это прогулка по тонкому льду.
И если вы не обладаете естественным интеллектом – у меня для вас плохие новости. Благо среди моих подписчиков, уверен, таких нет.
Пример из жизни
В моей предыдущей статье я привожу пример математического расчета экономии вследствие оптимизации размера упаковки. Что будет, если уменьшить короб в 2 раза по высоте. Всего-то!
Расчеты просты, с ними справляется эксель. Но один параметр крайне важно было смоделировать: сколько же коробок уместится на поддоне при имеющихся ограничениях?
Я знал ответ, потому что предварительно, на листе бумаги в 3D создал модель паллеты. Карандашом. С линейкой. По старинке, как учили раньше в ВолгГТУ (а заканчивал я его в далеком 2006 году), когда об ИИ мы даже и не догадывались. Хотя задача простая, можно было бы и в уме ее решить, но я люблю визуализировать (привет моей системе визуального прогнозирования Visual Forecast)
Но решил проверить, сколько же насчитает нейронка и создал простой запрос без применения умных промптов.
И началось … Нейронка (умная, китайская, Deep Seek которая) с легкостью НЕПРАВИЛЬНО решила задачу. Она не перебрала все варианты и выбрала не самый оптимальный вариант.
И таких примеров у меня масса!
Однажды у меня возникла идея: зачем тратить время на написание статей, если можно попросить нейронку сделать это за меня? Получилось, сразу скажу, не очень. Хотя прекрасно понимаю, что работать с текстом – это одно из ее преимущество, то, что она умеет делать отлично. Но статьи про математику закупок, переговоры и т. д. доверять ей не планирую. Без души они получаются.
Теперь вопрос: как распознать, что нейронка решила неправильно?
Верно - сверить с правильным результатом, который рассчитан на бумаге. Или проверить на других нейронках.
Но зачем же тогда ИИ, если мы его будем проверять?
Однако тут есть еще одна проблема – одна из проблем ИИ – она обучается на грязных данных. За последние годы были сгенерированы миллионы неправильных запросов с неправильными ответами. И на них не было получено отрицательной реакции, что для ИИ значит, что ответ удовлетворительный и можно использовать его в следующий раз. Только представьте себе … Вопрос сейчас стоит в том, как категоризировать данные для обучения ИИ, как отсеять грязные данные с неправильной информацией. Грядет маркировка данных, читал об этом.
Зачем я все это пишу сейчас? Потому как ежедневно сталкиваюсь с ошибками расчетов ИИ чат-ботов.
Это при том, что я знаю как писать промпты, в какой нейронке запрашивать и как потом проверять.
Ни в коем случае не умоляю достоинства ИИ агентов, но я не представляю себе вайбкодинг в Power BI на языке DAX, если ты не знаешь базовых основ программирования. Точнее – некоторые так делают и даже добиваются успеха. Но это единицы, такие люди смогли бы и сами написать код, прочитав книгу про программирование.
Пример сегодняшнего дня: пытался оптимизировать простейший запрос сравнения продаж с начала года с аналогичным периодом прошлого года. Были определенные нюансы, не знал, как обыграть это дело. И пока я полностью не разобрался в контексте проблемы, я не мог решить задачу даже с помощью ИИ. А как разобрался – смог решить ее и сам!
Нейронка прекрасно помогла с первого раза, но не до конца. Потому что я не знал, как правильно сформулировать сам запрос. Где-то час я мурыжил код, чтобы понять, как сделать запрос универсальным для всех нужных мне фильтраций.
Как нейросети решают задачи
Недавно был еще более интересный случай, когда я попросил нейронку решить задачу, которую мы отрабатываем на моей математической версии игры ПРО Закупки | Supply Game Math
О, что же тогда началось! За 8 секунд она дала неправильный ответ. Но выглядело все очень хорошо, достойно!
Вопрос: как распознать, что она дала неправильный ответ? Надо ведь знать, чем отличается SL1 от SL2, разбираться в функции потерь и прочих математических нюансах.
Ниже скриншот нашего диалога с ИИ
Далее, как полагается, я отругал нейронку за неправильный ответ (крайне рекомендую – это положительно влияет на выдачу правильного ответа) и она, подумав уже 337 секунд (!!!), выдала километровый расчет с аналитикой и пояснениями. В конце – выдав таки правильный ответ.
Но где гарантия, что кто-то не воспримет первый ответ как правильный?
В завершении дам вообще смешной пример из жизни: решил я попросить у нейронки провести анализ рынка и дать мне топ поставщиков нужного мне товара.
Как же быстро она придумала мне несколько несуществующих в природе поставщиков … Прям с указанием сайтов!
После этого я окончательно отказался использовать выдачу ИИ без предварительной проверки и стараться пользоваться своим ЕСТЕСТВЕННЫМ интеллектом для задач, которые исторически только им и решал.
А ИИ использую для тех задач, где на 100% уверен в правильности ответов нейронки.
Оптимизирую свое время. Не более.
Возможно через какое-то время данные галлюцинации будут устранены, но есть же еще проблема, описанная выше, над которой сейчас многие ломают голову: ИИ учится на больших массивах данных, которые берет … уже из интернета. Т.е. все запросы, которые мы генерируем в чат-ботах, вся эта информация, которая тоннами вываливается на нас … она вся идет в работу для генерации следующих запросов.
Интересно, будет ли использован где-то мой шутливый запрос на тему того, что 2+2 это не 4?).
Ниже моя переписка с ИИ:
Удачного вам ИИ погружения!