В связи с огромной популярностью языковых моделей у взрослой аудитории и чувства свободы, вседозволенности и всемогущества именно у взрослых хотелось бы снова поднять тему генеративного ИИ и его использования в детских работах.
О чем стоит помнить, когда используется генеративный ИИ?
Правило 1. Генеративный ИИ - это не волшебный ларец с двумя молодцами, а серьезный инструмент. Использовать его с пользой может только тот, кто понимает принципы его функционирования и осознает все риски, связанные с качеством полученного результата. Качество результата зачастую (а я бы сказала - почти всегда) зависит от "прокладки между сиденьем и рулем", т.е. от человека, который пишет промпты и, самое главное, анализирует полученные результаты. Полученный результат ни в коем случае нельзя скопировать и выдать за свой. Не потому, что это просто плагиат (хотя, правовые аспекты здесь тоже возникают), а еще и потому, что достоверность информации, полученной с помощью генеративного ИИ всегда должна подвергаться сомнению и проверяться. Конечно, если вы Иван-дурак, то вперед, копируйте, вставляйте, выдавайте за свое.
Вы можете предложить своему сыну или дочери сгенерировать проект с использованием генеративного ИИ, как это сделал Вовка в тридевятом царстве. Но тогда давайте для кучи выдадим нашим детям перфоратор, чтобы они вешали картины на стену, посадим их за руль вашего авто и при этом забудем рассказать, как правильно и безопасно этим пользоваться. Догадываетесь, какой результат вас будет ожидать. С использованием ИИ результат будет не менее печальный. Потому что цель генеративного ИИ - "творчество", придумывание, подразумевающее обязательное внесение изменений в найденное. Все, что сгенерировано - это просто "на заборе написано", с тем же уровнем достоверности. Может, правда, а может и нет.
Правило 2. Прежде, чем использовать генеративный ИИ в своей работе, следует определить те задачи, которые он умеет делать хорошо. Двое из ларца выполнят все, что ни пожелаешь. Но в оригинале сказки про Вовку как их использовал в итоге главный герой? Попросил инструменты. Вот и нам в проектной деятельности нужно попросить инструменты. Генеративный ИИ умеет хорошо выполнять следующие действия:
1. Писать план исследований, причем, очень подробный. Генерировать черновик или подстрочник.
2. Находить ошибки и несоответствия внутри текста. Например, когда в моей научной статье используется с 2 десятка переменных, ИИ помогает проверить все соответствия и предлагает таблицу несоответствий. По этой таблице можно точечно проверить определенные места в статье и устранить то, что действительно требует быть отредактированным.
3. Проверять последовательность и логичность повествования. Но тут все равно стоит относиться критически к полученным результатам.
4. Работать в роли "Злобного рецензента", цель которого раскритиковать автора в пух и прах. Конечно, все найденное этим рецензентом тоже необходимо проверять, но зачастую он находит то, на что уставший от редактирования автор уже не посмотрит.
5. Proofreading, или просто вычитка научного текста, особенно на иностранном языке. Но и тут без проверки качества работы языковой модели не обойтись, хотя, можно попросить ее выступить в качестве носителя British English.
6. Писать привлекательные рекламные материалы, перед которыми не устоит читатель.
7. Рисовать структурные схемы в векторе, например, mermaid.
8. Генерировать программный код для рутинной работы (интерфейс с описанной логикой работы, фронтэнд приложения), исправлять синтаксические ошибки в программе. О, этот пункт любят наши студенты! Но многие забывают: что посеешь, то и пожнешь. Какой промпт напишешь, то и получишь. Если вы сами не умеете программировать и не владеете основами программирования, алгоритмизации, объектно-ориентированного подхода..., то сгенерированный код не сделает из вас программиста.
Заметим, что нигде среди перечисленных пунктов не написано "Написать проект", "Составить аннотацию", "Написать обзор", "Найти библиографию". Это не просто так. Сочинитель это просто не умеет делать. Он, конечно, будет изо всех своих ИИ-шных сил стараться быть "хорошим мальчиком". Возможно, вам даже понравится то, что у него получится. На первый взгляд. Но результат можно сравнить с очаровательной девушкой, загляденье просто, у которой за душой нет ничего. Стоит начать читать текст, и видишь: отсутствует смысл, ускользает мысль, остается только красивая рекламная оболочка. Может ли такой текст быть фрагментом научной работы? Нет.
Правило 3. Знать, какие задачи генеративный ИИ решает плохо. Обычно плохой результат выдается в следующих случаях.
1. Требуется большой объем работы за один раз. Вспомним, что генеративный ИИ - программа. Выполнение любой программы имеет ограничения, в том числе и по используемой памяти. Если память израсходована, то расширить ее невозможно, из нее стирается то, что поступило в нее раньше.
2. Необходимо нарисовать иллюстрацию с подписями. Или без них. Подписи, скорее всего, будут. Причем, на его, ИИшном.
3. Подобрать литературу. Какую бы языковую модель вы ни использовали, сколько бы за нее ни заплатили, но составить достоверный список литературы не может ни одна языковая модель. В лучшем случае языковая модель найдет верное название книги. Если очень повезет. В худшем - выдумает книгу. И ее авторов. Здесь единственным верным способом "найти и обезвредить" является использование поисковых систем. Есть еще у того же Qwen, например, режим Deep Research. В этом режиме генерируется PDF на тему с реальными ссылками на статьи. Но там тоже без квеста не обойтись - ряд ссылок повторяется. Нужно все открыть и выбрать подходящее. Без навыка работы с литературой никак.
4. Решить задачу, для получения ответа к которой требуется детерминированный алгоритм. Если использовать ИИ-чат в режиме калькулятора, это можно не заметить, или заметить, но слишком поздно. При решении более сложных задач генеративный ИИ пишет много, демонстрируя якобы компетентность в исследуемой области, приводит аргументированные доводы, рисует таблицы и даже графики (на Python, например). Но если начать разбирать задачу по действиям, получается очень печальная картина - ИИ не знает даже алфавита.
Какими навыками должен обладать пользователь генеративного ИИ?
1. Полностью владеть терминологией и знать специфику предметной области, в которой проводится исследование. Только это знание позволит выявить недостоверную информацию.
2. Дружить со стилистикой русского (или любого другого рабочего) языка. Если речь идет о программировании, то основы программирования. Потому что исправлять за ИИ будет автор промпта.
3. Иметь хорошо развитое критическое мышление, быть внимательным, уметь вчитываться в текст и извлекать смысл прочитанного.
4. Обязательно знать - как надо сделать, что нужно получить, представлять себе свой результат. А то можно получить и "ягуара с 12 цилиндрами". Кстати, генеративный ИИ не умеет считать, и выдаст 12 цилиндров с допустимой погрешностью...
Здесь хочется отметить одну очень важную функцию генеративного ИИ: он учит нас точно формулировать мысли, без лишних слов и двусмысленности!
А теперь зададимся вопросом: сможет ли ребенок, ученик 2-4 класса, грамотно сгенерировать текст научной работы? В сказке про Вовку главный герой смог. Но это сказка, в которой показывается, что проект одним нажатием на кнопку не получается.
Тогда можно задать и другой вопрос: а вы как родитель сможете рассказать, как правильно пользоваться генеративным ИИ, какие опасности он несет в себе и какие последствия за это могут быть? А сколько времени вы потратите, чтобы сделать из сгенерированного текста достоверную хорошую работу? Иногда быстрее и надежнее написать самому.
Так можно ли использовать ИИ при написании детских проектов?
Очень хочется сказать - нельзя! Но нет. Можно. Только грамотно и осторожно. И по возможности окрыто делать ссылки на использование больших языковых моделей (с указанием названия, версии, даты релиза) при редактировании и проверке текста, генерации красивых картинок. На этом все. Никакого сгенерированного текста научного проекта быть не должно!
Внимание! При технической проверке работ выполняется полная проверка на плагиат и искусственный текст. И у меня сформировалась весьма жесткая позиция по ее поводу:
1. Плагиат (за исключением устойчивых фраз и выражений) не допустим в постановке задачи, определении цели, гипотезы исследования, описании эксперимента и собственных результатов, выводах по работе. При обнаружении плагиата в этих частях текста научной работы не возможно выдать рекомендацию к участию во внешних конкурсах, поскольку это может нанести ущерб репутации учебного заведения. В конкурсах (даже городского уговня) выполняется обязательная проверка на плагиат, и в случае обнаружения неправомерных заимствований "черная метка" выдается не только автору работы, но и учебному заведению, которое он представляет.
2. Детектированный искусственный текст допустим по всему тексту работы (хотя, лучше бы его нигде не было, поскольку не все к нему лояльны... но, увы, некоторый написанный людьми текст тоже детектируется как произведение ИИ), но требует внимательного изучения работы экспертом. В случае выявления недостоверной информации в любой части текста, работу ждет та же участь, что и работу с плагиатом. Замечу, что многие научные журналы уже ввели данное требование и разместили его на страницах "Для авторов". В случае обнаружения недостоверных библиографических ссылок (очевидные опечатки не в счет), работа признается недостоверной независимо от содержания.
И не надо говорить, что это детская наука, что я слишком жестока. Что умение из двух работ получить третью - это искусство. И написать промпт, который выдаст прекрасный текст, - тоже. Не надо говорить, что я пользуюсь не теми нейронками. Как ни крути, но ни платный, ни бесплатный доступ даже к самой лучшей генеративной модели не позволит получить достоверный текст, превосходящий написанное человеком. ИИ - штука творческая: хочет творит, а хочет - вытворяет. Вы позволите своей машине самостоятельно запарковаться? А может ли ваша плита приготовить суп из продуктов, которые есть в холодильнике? Тогда почему вы позволяете ИИ писать за вас или вашего ребенка?
С самого раннего возраста ребенка в науке следует приучать к прописным истинам:
1. Позаимстовал - сделал ссылку. Не сделал - значит, украл.
2. Если текст за тебя кто-то написал, проверь, не ошибся ли он. Пиши только то, в чем ты сам на 100% уверен.
Наука - это про честность и достоверность. Давайте будем учить детей этому. Кроме нас с этим ни один генеративный ИИ не справится. А чтобы получить качественную ИИшницу, нужно научиться ее готовить.