Становятся ли роботы умнее человека и нужно ли их ограничивать, на конференции ВШЭ «Искусственный интеллект и общество» рассказал профессор-исследователь департамента больших данных и информационного поиска, руководитель Центра глубинного обучения и байесовских методов НИУ ВШЭ Дмитрий Ветров.
Современные технологии искусственного интеллекта можно рассматривать как пятую промышленную революцию, полагает Дмитрий Ветров: «Мы стоим на пороге очередной технологической революции, связанной с распространением и внедрением технологий искусственного интеллекта, которые поделят нашу жизнь на до и после».
Уже сейчас существуют модели ИИ, способные оперировать языком на уровне человека и зачастую неотличимые от него. Модель ChatGPT произвела в обществе эффект разорвавшейся бомбы, напомнил Дмитрий Ветров. Большие языковые модели дают человечеству неограниченные возможности: автоматизация ряда рутинных когнитивных задач, революционный информационный поиск, агрегация коллективных знаний человечества.
При этом такие модели имеют ряд ограничений, о которых уже сейчас многие забывают: например, неспособность к эмпатии и отсутствие целеполагания.
Профессор обрисовал возможные риски, создаваемые большими языковыми моделями. Так, по его мнению, на рынке труда на горизонте нескольких лет произойдут драматические изменения, связанные с возможностями ИИ автоматизировать рутинные задачи: окажется не у дел армия работников, которые сейчас занимаются таким трудом.
Еще одна опасность заключается в том, что повсеместное проникновение такого рода технологий может привести к утрате значительной частью населения навыков критического мышления. «Через несколько лет мы привыкнем доверять системам, и сомнения в подлинности их выводов возникать не будут — мы полностью утратим навыки критического восприятия, которые и сейчас уже не слишком велики. То есть система будет думать за человека», — полагает Дмитрий Ветров.
Кроме того, профессор опасается, что взрывной рост интеллектуальной мощности больших языковых моделей даст им возможность манипулировать людьми.
«Это технология масштабирования: сегодня у нее [машины] интеллект как у человека, а уже завтра будет сильно выше. Опасность заключается в том, что, когда один из собеседников интеллектуально намного превосходит другого, открываются широкие возможности для манипулирования. Как бы не оказалось так, что мы упустим этот момент. То есть не будет никакого восстания машин, человечество пойдет за ними добровольно», — предрекает Дмитрий Ветров.