На прошлой неделе я участвовала в экспертном диалоге «Высшее образование в новую технологическую эпоху», который организовало Министерство образования и науки РФ. Мероприятие прошло в Национальном центре «Россия». Собрались эксперты, представители университетов, работодатели, федеральные ведомства. Обсуждали новую модель высшего образования с учетом технологических трендов и ситуации на рынке труда.
Я выступала в дискуссии про искусственный интеллект в высшем образовании. Модератором выступила Дарья Козлова, директор «Яндекс Образования». Сразу скажу: я представляю индустрию информационной безопасности, и поэтому оказалась там главным скептиком. Люди из информационной безопасности смотрят на новые технологии с ужасом, ждут от них какой-нибудь подлянки, а потом с этой подлянкой борются. ИИ — не исключение. Это очень большое явление, в котором уже сейчас крайне много рисков.
Хайп вокруг ИИ
Сейчас мы находимся на пике хайпа вокруг искусственного интеллекта (ИИ). Есть известная кривая аналитической компании Gartner — восприятие новой технологии сначала взлетает на «пик ожиданий», когда все ждут, что она решит буквально все проблемы человечества. Потом, когда этого не происходит, технология падает в «яму разочарования». И только после этого постепенно выходит на плато продуктивности.
На Западе сегодня звучит все больше скептических голосов относительно генеративного ИИ. Генеративные модели, по мнению той же Gartner, уже начинают скатываться в плато разочарований — в том числе потому, что многие из них перестали демонстрировать рост качества. В России же ИИ находится на самом верху этого пика.
Почему плохо принимать решения о внедрении той или иной технологии на пике хайпа? Потому что может быть как с блокчейном. В 2017 году это была модная технология, и ее включили во все госпрограммы. А потом возник огромный разрыв между реальностью и этими программами, и никто не знал, как оттуда выковыривать блокчейн.
ИИ — западная технология
Большинство моделей ИИ, которые используются и в образовании, и для разработки — иностранного производства. Из генеративных моделей у нас в стране с натяжками можно насчитать две. Все остальное — сотни моделей — иностранные.
Это значит, что эти модели блокируют российских разработчиков. Надо ходить через VPN, который у нас в стране ограничен. Неизвестно, что эти модели преподносят и как они разработаны. Они могут вполне себе содержать враждебные нашей стране команды.
ИИ нельзя проверить — это технология, основанная на больших данных. С точки зрения информационной безопасности совершенно оправданно ожидать каких-то заложенных в нее проблем.
Неоднозначная эффективность ИИ
Я читала несколько исследований про эффективность внедрения ИИ. Многие говорят, что это здорово. Но когда начинаешь смотреть на конкретные цифры, они очень скромные. Например, повышение производительности труда — лишь на 1-2%. Это не то, ради чего стоит всем массово внедрять ИИ со всеми его рисками и угрозами.
ИИ и образование
В школе дают знания рафинированного образца. Если дважды два — это четыре. Нет вариантов, что это будет 4,2 или 4,5. Это четыре. Если Земля вращается вокруг Солнца, школьники должны знать, что она вращается вокруг Солнца, а не как-то еще.
Генеративный ИИ может генерировать ошибки — это проблема галлюцинирования. Если мы начинаем внедрять его в образовательный процесс, то мы должны бороться с постоянными галлюцинациями и ошибками в ответах, в той информации, на которой предполагается обучать школьников, ведь модель дает не точный, а всего лишь вероятностный ответ. На критических применениях галлюцинирующие технологии использовать нельзя. А образование — это то самое критическое применение.
Образование консервативно — и это хорошо
Когда говорят: «Давайте в образование быстрее чего-нибудь новое внедрим» — это безответственный подход. Образование — консервативная отрасль. И очень хорошо, что это так, потому что мы должны учить тому, в чем человечество уверено. А в искусственном интеллекте пока совершенно уверенности нет. И неизвестно, появится ли она завтра.