Понимает ли ИИ человеческий язык и как исследователи пытаются ответить на этот вопрос

Искусственный интеллект активно проникает в повседневную жизнь, сферы его применения становятся все более широкими. Сегодня от ИИ может зависеть даже человеческая жизнь. Но как определить, научились ли алгоритмы нас понимать или только имитировать понимание?

IBM Watson — суперкомпьютер, победивший лучших игроков американской телевикторины Jeopardy. В посвященном ему рекламном ролике 2010 года утверждалось, что «Watson понимает естественный язык со всей его сложностью и неоднозначностью». Несмотря на это, компьютер не смог «произвести революцию в медицине с помощью искусственно интеллекта». Стало очевидно: если на первый взгляд кажется, что компьютер понимает язык, не факт, что так оно и есть. Оказалось, что IBM Watson предлагал «многочисленные неправильные и небезопасные методы лечения», а google-переводчик совершал существенные ошибки в переводе медицинских рекомендаций для неанглоязычных пациентов.

Суть проблемы в том, что понимание языка невозможно без понимания мира, а компьютер, который имеет дело только с языком, пониманием мира не обладает. Что нужно для того, чтобы понять предложение «спортивный автомобиль обогнал почтовый грузовик, так как он ехал медленнее»? Нужно знать, что такое спортивный автомобиль и что такое почтовый грузовик, что машины могут обгонять друг друга и что машины — это объекты материального мира, которыми управляют люди для каких-то своих целей.

Для людей все это самоочевидно. Но эту самоочевидность нельзя конвертировать в текст, чтобы затем обучить на нем модель ИИ. Некоторые ученые-когнитивисты утверждают, что люди используют врожденные базовые знания о пространстве, времени и других ключевых характеристиках мира в процессе изучения и понимания языка. Если мы хотим, чтобы компьютеры овладели человеческим языком, сначала следует запрограммировать в них базовые знания, которыми человек обладает от рождения. Соответственно, оценивая уровень понимания компьютеров, мы прежде всего должны оценивать понимание этих принципов.

Обучение компьютеров «детским» знаниям выглядит огромным шагом назад в свете достижений таких ИИ-систем, как Watson и GPT-3. Но не исключено, что для подлинного понимания, вполне может быть, что это единственный путь.