С развитием искусственного интеллекта связано множество мифов и заблуждений. О том, как устроен ИИ и чего действительно стоит опасаться в работе с ним, «Коммерсанту» рассказал руководитель департамента больших данных и информационного поиска факультета компьютерных наук НИУ ВШЭ Евгений Соколов.
Главное:
• Сегодня многие говорят об опасности создания сильного искусственного интеллекта, о неких рисках и возможностях. По-моему, риск совсем не в том, что ИИ захватит человечество, да и потенциальные плюсы вовсе не в том, что мы вот-вот получим некий искусственный интеллект, который сможет заменить естественный.
• Модели вроде ChatGPT крайне хороши в создании текстов. Они могут сгенерировать официальное письмо на основе краткого неформального описания от нас. Сделать красивое рекомендательное письмо. Подготовить ответ на жалобу, которую вам надо обработать. «Причесать» текст, «налить воды» — или, наоборот, сократить, сделать краткую выжимку. Тот же ChatGPT мы можем использовать в качестве помощника.
• Но у этих моделей ИИ есть и минусы. Например, они значительно упрощают генерацию фейковых текстов. Интернет и так славится тем, что в нем много неправды, а сейчас генерировать ложь становится еще проще, чем раньше.
• Еще один важный нюанс: в языковые модели не заложено понимания того, что выдаваемая ими информация должна соотноситься с реальностью. В отличие от живых людей, языковые модели взаимодействуют с реальным миром только через тексты, которые видели при обучении, и эти тексты вполне могли быть некорректными, не соответствующими действительности.
• Что касается студентов и дипломных работ, написанных с помощью ИИ, мое мнение такое: пусть авторы пользуются чем угодно, но при этом несут полную ответственность за все, что написано в тексте. Один недосмотренный абзац, один неосторожный запрос к лингвистической модели — и она будет утверждать в тексте диплома, что дважды два равно пяти.
• Более того, мы же требуем от студентов не сам текст, мы требуем результат — что-то новое, нетривиальную идею, которая раньше никому не приходила в голову или которую никто не мог осмыслить до конца. ИИ на такое не способен. А если студент справится с тем, чтобы вытащить из языковой модели что-то новое, пусть получает высшую оценку — он первый придумал, как это делать, и мы будем только рады.
