"А мои не пользуются нейронками!" - скажет какой-нибудь преподаватель. Не, не верю. Сколько бы доводов ни приводилось потом. Современные генеративные нейронки могут все, и даже чуть-чуть больше. Казалось бы, это те самые двое из Ларца, которые попались Вовке в Тридевятом царстве. Только двое эти на диете и конфеты, то бишь, оценки, достаются-таки не им, а Вовке.
Современные генеративные нейронные сети не только ищут текстовый ответ на вопрос, но и могут создать изображение, написать программный код не просто на каком-то языке, но и на требуемой его версии, могут создать код для структурной схемы, написать методические указания по любой дисциплине. Вопрос только, на каком уровне? Вопрос только, правильно ли? И вот тут Вовка, Петька, Катька, Васька из "Страны не выученных уроков" могут с этой генерацией очень сильно пострадать. Почему? Двое из Ларца же работают! Ага! Работают. Получили задание, написали ответ. Но кто отвечает за правильность ответа?
Попросили мы, например, построить график элементарной функции. Вы хотите график? Получите? Смотрите, какой красивый. И оси подписаны, и сноски даны, и важные точки отмечены. Что? Чушь? Так скажи ты своему преподавателю, что это высокохудожественный график. Что? Ставит 2 и отправляет на пересдачу? Вы ничего не смыслите в математике? А он ничего не смыслит в современной нейрографике.
Или вот ещё. Элементарная задача по математической логике. Конкретная постановка. Конкретные действия... Все убедительно, подробно, красиво!
Но вот на этом моменте у человека думающего возникает закономерный вопрос, который тут же возвращается нейронной сети, и она,о, чудо! В ком-то веке! Исправляет свои ошибки.
Но чаще всего не исправляет и вуалирует ошибки за килобайтами извинений в своей невнимательности. Или недообученности? Или некомпетентности? Кто-то сейчас мне скажет, что Giga.chat - это отстой, это так себе модель, что надо обращаться к оригинальной GPT, Qwen и прочим мудрым моделям. Ну да, Qwen решил эту задачу по математической логике без ошибок. Но на более сложной задаче дал сбой. То же можно сказать и о GPT... Рано или поздно находится задача, на которой случаются галлюцинации. Но когда они встретятся? Как найти ошибку? Если не знаешь, ошибку и не найдешь ведь! Значит, надо учиться решать самому, чтобы проверить нейрогенерацию. То есть, в мире, где двое из Ларца готовы предоставить тебе все, что только можно, и даже больше, нужно уметь критически мыслить! А если не умеешь... Страшно представить, в какой стране Не выученных Уроков мы скоро будем жить. Если верить всему, что напишет GPT и им подобные творцы. Если даже в задачах по математике, для которых существуют алгоритмы решения, мы видим нелепые ошибки.
С галлюцинациями понятно. Допустим, человек умеет критически мыслить, и нашел все ошибки генерации. Но тут возникает следующая проблема нейронных сетей - не оптимальное решение, перебор с "водой". И тогда, бездумно описывающие решение двоих из Ларца превращаются в того, кто переносит в свои контрольные работы килобайты однотипного текста. Человек думающий давно бы составил таблицу. Человек, поддающийся влиянию нейронной сети, переписывает 3-4 случая одними и теми же словами. И не замечает, что ли, что это текст в исполнении робота?
Вот пример из контрольной в моём курсе
И сразу же возникает вопрос: где тут применена полиномиальная формула? Где запись этой формулы? Каким образом получена система? Очевидно? Возможно. Знаю людей, которые в уме берут интегралы по частям, но таких единицы, а не половина потока в 120 человек.
И далее нейросеть долго и нудно решает систему уравнений в неотрицательных целых числах и ищет коэффициент при шестой степени x для каждого случая. Молодчина, робот!
И, главное, как подробно расписывает! И студенты, особо не озадачиваясь, механически переносят это в контрольную работу. Ну все, ребята, которые зарабатывали раньше на решении контрольных для отстающих и ленивых, обанкрочены.
А теперь решим и посчитаем вручную.
И что мы видим? Снова ошибка в ходе решения. Пропущено допустимое решение, записанное в 6 строке рукописного варианта. Но это ещё ладно! Обратите внимание на то, как нейросеточка считает коэффициенты! Куда пропадает нужная и важная информация! Мне даже сумму считать уже не охота, есть желание написать: "Что и требовалось доказать".
А что я доказывала? Я доказывала утверждение: генеративную нейронку следует использовать только тогда, когда ты в силах проверить качество полученного решения.
Кстати, предлагаю немного реабилитировать искусственный разум:
И так далее...
Но получение ответа - отдельная песня. Которую оправдывает только то, что ответ правильный.
Самое печальное здесь то, что весь сгенерированный поток сознания бездумно переносится на листок и сдается преподавателю. Видимо, профессору-лопуху придется в скором времени писать ссылки на нейронки, получившие то или иное решение...
А мораль из всего этого проста:
- На нейросеть надейся, а сам не плошай!
- Нейросеть дала тебе подсказку, используй ее для самопроверки, для идеи, но действуй сам!
- Критически относись ко всему, что дала тебе нейросеть. Даже если это задача по точным наукам.
И маленькое лирическое на тему. Представьте себя ребенком лет 5. Вы в садике нарисовали картину. Шедевр, достойный висеть на стене в рамочке. И вы знаете точно, что для этого нужно вкрутить саморез в стену. А чтобы сделать это нужна дрель! Дрель - это такой крутой инструмент, который надо поднести сверлом к стене, нажать кнопочку, в дальше.... Дрель сделает дырку. Не важно, где. Если повезёт - в стене. Именно там, где надо повесить картину. А если не повезет? Дело может закончиться очень печально. Дырка будет сделана, но результат не будет соответствовать ожиданиям. Вот и нейросеть - это как дрель! Это очень мощный инструмент, это не "Двое из ларца". А инструмент надо знать, надо его чувствовать, надо уметь пользоваться! А если не умеете, нейросеть "просверлит дырку", запишет какое-то решение. И не обижайтесь, что профессор не засчитал вам баллы. Профессор - лопух, но аппаратура при нем! В каком году это было сказано? Имея массу искушений, заманчивых предложений и видимости верного пути нужно, тем более, учиться критически рассуждать. Без этого в мире, который стремительно захватывают нейросети, не выжить. Или скоро мы поймем, что 2+2=5, ведь так говорит нам нейросеть?