Особый интерес у участников молодёжного историко-культурного форума «Истоки» вызвал образовательный блок по кибербезопасности, встроенный в программу Псковским государственным университетом. Вопросы, связанные с рисками и перспективами развития искусственного интеллекта сегодня невероятно актуальны, в том числе в части правовой повестки. Сфера достаточно новая, поэтому юридическую составляющую знают не все.
О возможностях и опасностях, которые хранит в себе искусственный интеллект, мы поговорили с заведующим кафедрой информационного права и цифровых технологий Московского государственного юридического университета имени О.Е. Кутафина, лауреатом премии «Цифровой юрист года» в рамках Премии Рунета (2021), руководителем Центра компетенций «Киберправо» Алексеем Минбалеевым.
– Алексей Владимирович, в последние месяцы нейросети становятся все более популярными. Все чаще мы слышим разговоры об опасности, которую может таить в себе искусственный интеллект. На ваш взгляд, к чему глобально может привести такое стремительное развитие технологии?
– Мы видим очень серьезную опасность того, кто будет формировать базы для нейросетей и каким образом он будет это делать: как организует работу по их развертыванию и использованию, кем будут разработчики программного обеспечения, которые будут закладывать алгоритм, на основе которого будут функционировать нейронные сети и технологии искусственного интеллекта. Все это очень важно.
Мы сегодня наблюдаем, что в рамках нейросетей создается очень много информации, которая используется в различных сферах. Речь идет не только о журналистах, которые дают задания нейросети по формированию какой-то новостной линии, анализа той или иной ситуации. Сегодня это происходит во многих профессиях. Например, я сталкиваюсь с тем, что люди говорят: «Мне сейчас доверенность сформирует нейронная сеть», или «Мне напишет пресс-релиз искусственный интеллект».
Люди перестают думать. Они доверяют и готовы согласиться с тем, что им сказала система искусственного интеллекта, без проверки. Это очень плохо.
– Существуют ли на данный момент законы, которые регулируют деятельность искусственного интеллекта?
– Пока нет таких законов, они находятся в процессе создания. Важно, конечно же, контролировать определенные процессы, связанные с нейросетями, со стороны государства. Особенно учитывать это надо, когда мы говорим об использовании той или иной информации, например, в образовательных целях или в целях осуществления государственных муниципальных услуг.
Кроме того, принципиально важно проверять сгенерированную информацию и базы нейросетей с позиции исторической достоверности. Сегодня со стороны ряда зарубежных и недружественных государств мы часто видим специализированную систему подтасовки фактов.
Например, мы с ребятами пробовали получить определенную информацию о Великой Отечественной войне. Информация, которую выдала нейросеть, оказалась фейковой. Вопрос: нейросеть плохая? Нет. Она выдает ту информацию, которую в нее заложили. Кто это сделал? Кто является разработчиком нейросети? Почему он сделал именно так? Очень много вопросов возникает, поэтому уже сегодня должна быть сформирована государственная политика, с одной стороны, по контролю, с другой, – по созданию и наполнению достоверной информацией собственных нейросетей, которые будут использоваться в том числе для образовательных целей.
Мы все видим, что использование нейросетей носит вирусный характер. «Я посмотрел, я нашел, я решил задание», следующий тоже решил задание, но никто не задумывается, что на первом или втором этапе это может быть достоверная информация, а затем это уже может быть ложная. Ее могут исправить, потому что нейросети обучаемы и готовы воспринимать какие-то правки. Даже если достоверная информация в каких-то случаях была и какие-то люди получили достоверный итог, это не значит, что в дальнейшем информация не будет сфабрикована специально. Понимая это, важно на уровне государства закрепить основы того, как будет происходить и осуществляться использование технологий искусственного интеллекта.
– Кого не заменит искусственный интеллект?
- Он точно не сможет заменить родителей и учителей.