В четверг я была сразу на двух крупных мероприятиях. И как будто побывала на двух разных планетах.
Первое было организовано Администрацией Президента и посвящено демографии — «Демографический перелом в России». Большой форум, где обсуждали важную серьёзную и, главное, жизненную проблему — как переломить падение рождаемости и увеличить народонаселение страны. Для такой большой страны, как наша, это вопрос выживания.
Я участвовала в круглом столе про ответственность бизнеса в деле повышения демографии в стране. Вел его Артур Ниязметов, заместитель полпреда Президента в ЦФО, один из авторов концепции «Золотой стандарт корпоративной демографии». Это — проработанные рекомендации предприятиям по поддержке семей с детьми. Планируются отдельные меры государственной поддержки для предприятий, которые этому стандарту соответствуют.
Наша компания — «ИнфоВотч» —примерила этот стандарт на себя, зарегистрировавшись и заполнив анкету. Оказалось, что практически всем параметрам мы соответствуем – набрали 104 балла из 150 возможных.
Единственный существенный параметр, который мы пока не осилили, это обязательство компании по выплате 1 млн рублей сотруднику за рождение третьего ребенка. Мы посчитали потенциальных кандидатов в компании (то есть сотрудников в возрасте до 45 лет, имеющих двоих детей) — насчитали 93 человека. И призадумались. Обещать выплатить в ближайшее время 90 млн, предположив ещё, что потенциально эти 90 человек могут уйти в декретный отпуск (а у нас же теперь декрет разрешен и мужчинам, и женщинам) – и это в предчувствии экономически сложного года… Тут явно есть над чем подумать. Пока оставили себе как домашнее задание.
Вообще здорово, что в Администрации Президента есть люди, которые не только задумались над проблемой, но и предложили интересные инструменты для её решения.
Сразу с демографической конференции я поехала на форум «Высшее образование в новую технологическую эпоху». Это тот самый форум, где Максим Орешкин заявил, что «Искусственный интеллект позволяет устно опрашивать ученика и выставлять оценку абсолютно объективно ...». Орешкин был с утра, а я приехала к 16 часам для участия в пленарной дискуссии, которая была посвящена – конечно же! – искусственному интеллекту.
Обсуждали как наилучшим образом вузам применять ИИ сейчас и как он будет применяться в будущем. Представители вузов обстоятельно рассказывали о том, как здорово они уже применили ИИ тут, вот тут и вот там. Никто, правда, не привёл результатов длительных наблюдений в сравнении с обычным образовательным процессом. Естественно, поскольку технология новая. Вроде, сейчас от этого польза (например, экономия сил). А что будет через 3 года, через 5 лет?
Но потом ведущая передала слово «ИТ-шникам». «ИТ-шников» на панели было двое – я и Александр Крайнов из Яндекса. Поскольку я знаю, что наши мнения по поводу ИИ с Сашей, мягко говоря, расходятся, то я сразу себя отделила: «Я не ИТ-шник, а представитель отрасли информационной безопасности». Инфобезопасники – это такие люди, которые смотрят на любую новую информационную технологию с подозрением, ожидая от неё какой-нибудь подлости, от которой им потом придётся людей защищать.
Вот и ИИ – технология, которая несёт в себе массу рисков, о которых почему-то вообще не говорят. Говорят только и исключительно о плюсах и чудесных возможностях.
В своей речи я отметила следующие риски внедрения ИИ в сферу образования:
1. ИИ сейчас в России находится на пике хайпа, на вершине кривой Гартнера. А это означает, что отношение к нему не совсем объективно, мягко говоря. Может, подождать, пока пройдут истерика и накрутка? И только потом думать, как это внедрять в образование? А то будет, как с блокчейном семь лет назад, который сначала вписали во все программы и рекомендации госучреждениям, а потом потихоньку его оттуда вычищали. К тому же, пока нет научных исследований того, как внедрение ИИ влияет на результат обучения на долгом периоде.
2. Нет однозначного доказательства или хотя бы демонстрации полезности ИИ. Исследования, которые сейчас уже массово ведутся на Западе, дают разочаровывающие результаты. Так, производительность труда при внедрении ИИ — вроде бы — в среднем растёт на 1-1,5%, но каждому, кто занимался управлением, известно, что простое наведение порядка и налаживание бизнес-процессов даёт гораздо больший результат. В образовании риски уже реализовались: повсеместная фальсификация ученических работ с помощью ИИ — установленный факт. Так куда и зачем нам спешить?
3. Помимо перегретости темы, ИИ имеет некий флёр «божественности», особенно у гуманитариев. Их приводит в восторг способность машины выдавать тексты или картинки как бы «не хуже человека». Отсюда возникает почти религиозная вера в могущество этой технологии. И предположения, что она сможет учить людей, понимать людей, возвышать людей. Нет, технология этого не может и не сможет никогда. Оставьте Богу Богово.
4. То, что у нас сейчас повсеместно понимается под ИИ — это генеративные большие лингвистические модели(хотя это неверно, это один из многих видов ИИ, просто самый модный). Они у нас — все сплошь иностранные, за исключением двух — от Сбера и Яндекса. Строго говоря, большая лингвистическая модель Яндекса — тоже не совсем отечественная, полученная «дистилляцией весов» у китайских Квен и Дипсика, но при представителе Яндекса я не стала это уточнять. А иностранное ПО заведомо несёт много рисков: от навязанной идеологической повестки до целенаправленных закладок и искажений. Не говоря уж о том, что западные генеративные ИИ-сервисы блокируют российские IP, а наши регуляторы в свою очередь блокируют VPN, позволяющие пользователям из России ходить на эти ИИ-сервисы. Это у нас такое «импортозамещение»? Или сейчас внедрим иностранное и цельнотянутое, а замещать будем когда-нибудь потом?
И несколько слов конкретно про ИИ в образовании:
a. Образование – консервативная отрасль. И это правильно. Оно отвечает за передачу накопленных знаний. А не за самое модное и новенькое, которого завтра уже может не быть. Если немедленно внедрять в образование все, что мимо пробежало, это будет не образование, а профанация.
b. Знания, преподаваемые в учебных заведениях, должны проходить проверку истинности. А генеративный ИИ — технология исключительно вероятностная, галлюцинирующая, обученная — надо честно признать — неизвестно на чем и неизвестно кем. Значит, надо результаты её работы сначала подвергать перепроверке человеком или тестами на достоверность, чужую идеологию, ценности. А напрямую ИИ для преподавания использовать нельзя.
c. Если оценка знаний ученика делается при помощи ИИ и — в 90% случаев — пишется студентом при помощи ИИ же, то никакой объективной оценки знаний не происходит. Да и усвоения знаний — тоже. Опросы студентов, применявших ИИ для написания учебных работ, показывают, что они не помнят не только содержания сданных работ, но даже запросов, которые делали к ИИ. Это и называется «цифровая амнезия». И вуз, в результате, выпускает неизвестно кого. (Тогда я ещё не знала про призыв г-на Орешкина доверять экзамены искусственному интеллекту. Хорошо, что он не министр образования).
d. Многие исследования показывают, что постоянное использование ИИ снижает когнитивные способности. У студентов — потому, что те вставляют в работу выдачу ИИ, не задумываясь, и перестают учиться. У преподавателей — потому что те перестают вручную проверять работы, доверяя ИИ. ИИ пишет, ИИ проверяет, а люди — притворяются, что участвуют в процессе обучения. В пределе мы получим всеобщее отупение и привычку всё фальсифицировать. Что, кстати, говорил и Президент в конце ноября на выставке ИИ.
Интересно, что аудитория после моего выступления внезапно зааплодировала, что навело меня на подозрение, что не все так уж любят этот ИИ.
Лучше бы, вместо внедрения ИИ в образование, заняться демографией. Вот чего ИИ точно не сможет делать в обозримой перспективе — так это людей. Эта задача пока под силу только людям.
И, ей-богу, это гораздо более полезное дело, чем внедрять разные глупости в пока ещё работающее образование.
Мать пятерых детей, Наталья Касперская.