Помогают ли современные технологии учиться или создают головную боль преподавателям, а также чем отличается поисковая система Google, Яндекс и нейросеть – размышляет доцент СибГИУ Анна Корнева. #СИБГИУтренды
«Работать на опыте других она блестяще научилась»
- Что круче, на ваш взгляд: искусственный интеллект или человеческий?
- Однозначно – человеческий, потому что он создал искусственный!
Есть фильм с Уиллом Смитом «Я, робот», где герой говорит киборгу: «Ты всего лишь машина, только имитация жизни. Робот сочинит симфонию? Робот превратит кусок холста в шедевр искусства?». «А ты-то все это можешь?» - отвечает ему искусственный интеллект.
- В перспективе ученик может превзойти своего учителя?
- В какой-то мере да. Есть множество произведений фантастики, в которых описывается, как искусственный интеллект вырвался на свободу и стал думать самостоятельно. Но нынешние реалии пока от этого очень далеки. Сегодня ИИ – это инструмент, эффективность которого зависит от того, как вы его настроите. Он может писать тексты, рисовать картины, придумывать заголовки. Наверное, уже нет таких сфер, где бы невозможно было использовать искусственный интеллект.
ИИ отличается от обычной программы тем, что он может обучаться сам. Т.е. какого-то алгоритма действий у него нет. Мы даем ему множество данных и условно говорим: «Из этой кучи должна получиться другая куча». Но само преобразование данных простраивает нейронная сеть. В этом и заключается ее прелесть: там, где мы не можем описать что-то конкретными законами, ИИ подберет те коэффициенты, которые помогут выйти на итоговый результат.
Известно, что любую функцию можно представить в виде многочлена. Соответственно, возле каждого слагаемого этого многочлена стоит коэффициент, который подбирает нейронная сеть. Обычно используется метод градиентного спуска, когда она получила какое-то значение и смотрит: я нахожусь в этой точке, куда двигаться дальше? И ступенечками спускается, пока не достигает определенной точности решения.
- Получается, ИИ может проявлять определенную самостоятельность в решении задач?
- Он может подобрать коэффициент, чтобы получить тот ответ на том массиве данных, который ему дали, но принимать самостоятельные решения он не может. В теории возможно, что ИИ будет сам брать информацию из окружающей среды и принимать эталонные решения, но пока технологии не дошли до этого.
Т.е. сегодня ИИ не умеет создавать что-то принципиально новое. Квантовый компьютер он, наверное, не создаст. Пока. А работать на опыте других он блестяще научился.
Системы искусственного интеллекта могут усилить неравенство
- Чем нейросеть отличается от поисковой системы по типу Яндекса или Google?
- В Яндекс и Googleуже достаточно давно в сами поисковые алгоритмы встроены нейронные сети. Не зря они умеют распознавать картинки и все остальное. Amazon еще хорошо работает в этом плане.
По сути, поисковая система – это большой массив данных. Мы задаем ключевое слово и по нему система ищет заголовки, в которых встречаются нужные слова. Анализ данных не происходит, этим занимаются уже нейросети, которые подбирают под ваши пристрастия то, что будет соответствовать вашим ожиданиям. Они делают это на основе того, что вы ищите, как часто вы ищите, как вы формулируете запрос.
Например, по четвергам вы смотрите, где купить молоко. Нейросеть проанализировала, какие рядом с вами есть магазины, в каких есть молоко и где сейчас проходят акции, и именно их выкинула вам в качестве рекламы.
- В марте этого года Илон Маск, основатель Apple Стив Возняк и еще 1123 исследователя, инженера и предпринимателя подписали открытое письмо ИИ-лабораториям с просьбой приостановить как минимум на полгода обучение систем искусственного интеллекта, более мощных, чем GPT-4. Эксперты предупреждают, что в ближайшей перспективе системы искусственного интеллекта могут усилить неравенство в обществе, способствовать распространению дезинформации. Насколько эти опасения верны, на ваш взгляд?
- Безусловно, так и есть. Сегодня в принципе большая проблема интернета в том, что мы не в состоянии проверить то количество данных, которое выкладывают туда люди. Волшебные слова «по мнению британских ученых» делают статью супер авторитетной, хотя непонятно, кто ее вообще писал. Сколько в интернете ходит статьей про «Пейте в день по две чайные ложки соды и похудеете за два дня!» И проверить достоверность изложенных фактов не всегда есть возможность, хотя пишут эти тексты конкретные люди. Вопрос в том, что люди могут быть недостаточно грамотными для того, чтобы высказывать свое мнение. И, тем не менее, им верят.
Если аналогичные статьи начнет писать нейронная сеть, то ее скорость будет гораздо выше человеческой. Слог изложения, формулировки будут такие, что текст будет похож на правду. Но на достоверность его проверять не будет никто. А что случится, если нейронная сеть начнет сама писать новости?
Нужно контролировать этот процесс, чтобы изложенное оставалось достоверным. И этим должен заниматься человек.
Итоговое решение в любой ситуации должен принимать человек
- В 2019 году Минобрнауки анонсировало, что ИИ будет внедряться в систему высшего образования и студентов будут отчислять на основе оценки их работы нейронной сетью. Сейчас это внедряется?
- Нет, такого у нас нет. Это очень спорный и местами даже этический момент, потому что каждое окончательное решение все-таки должен принимать человек. Вы знаете, что есть беспилотные автомобили. Но почему такие автомобили не ездят у нас везде, если технология есть, она развита? Потому что ещё в 1967 году философ Филиппа Фут сформулировала «проблему вагонетки» - мысленный эксперимент в этике. Может возникнуть ситуация, когда дорогу, например, перебегает ребенок, а рядом стоит машина. Робот не должен принимать решение, кто в итоге должен пострадать.
Т. е. речь о том, что в жизни человеку приходится принимать решения, и они не всегда удобные. И отдавать такие сложные решения на откуп роботов в принципе неправильно. Это по большому счету этическая проблема – в какой ситуации допустимо принятие решение роботами, а в какой – нет.
У студента может быть конфликт с преподавателем, когда нужно разбирать ситуацию, собирать комиссию и т.д. У кого-то по личным обстоятельствам не получилось сдать экзамен, но есть уважительная причина. Студента в этом случае отправляют в отпуск, либо назначают сроки пересдачи. Все это очень индивидуально.
Т.е. ИИ может советовать, кого отчислять. И тогда возникает вопрос: на основе чего отчислять? На основе оценок? Но нужен ли в этом случае робот? А если проверять уровень развития компетенций, то возникает вопрос, как это будет разработано, протестировано, и что именно является эталоном стандарта.
- В Китае уже несколько лет как ставят камеры, которые считывают по лицам учеников, кто списывает, спит, а кто реально вовлечен в учебный процесс. Насколько такая форма контроля оправдана даже в высшем образовании?
- Во-многом, тут все зависит от воспитания. Китайские школы достаточно уникальны, с очень жесткой дисциплиной. Поэтому у нас в таком виде контроль в принципе не применим. Для чего отслеживать в классах, чем заняты дети? Любой учитель и так видит, чем они занимаются.
Отслеживать на экзаменах – да, соглашусь, это было бы хорошо, особенно применительно к дистанту, когда человек отвечает перед камерой, и мы точно можем знать, что именно он решал задания. Но как ежедневная практика такое у нас не имеет смысла.
- Если студент принесет вам дипломную работу, написанную нейросетью, вы сможете отличить ее от написанной человеком?
- Я в этом не уверена. Я в принципе из тех преподавателей, кто не очень внимательно читает пояснительные записки! Когда мы работаем со студентом, то мы работаем вместе и видим его работу. Еще на стадии обучения можно сказать, какую отметку он получит в конце года.
Бывает так, что студент ничего не делал весь год, а потом пришел и все выучил. С ним достаточно немного поговорить, чтобы это понять. Если же он пришел с блестяще написанной работой, но не понимает, что там написано - мне все равно, кто является автором его дипломной или курсовой работы.