Большую популярность на многих платформах в Интернете получают чат-боты и голосовые помощники. В 2016 г. крупная компания Microsoft запустила собственного чат-бота, Tay. Она должна была разговаривать с пользователями в духе 19-летней девушки-американки и учиться на ответах, чтобы ее способности автоматически улучшались. Спустя 16 часов Tay пришлось отключить. Как вы думаете — почему?
Она начала публиковать расистский и сексуальный контент, которому обучилась на удивление быстро. Что же пошло не так? Ясно, что Tay намеренно провоцировали недобросовестные пользователи. Однако их атака сработала в первую очередь потому, что Tay, как и другие чат-боты, не понимала, что говорит. Позволить ей учиться без человеческого контроля, оказалось, естественно, большой ошибкой. Хотя у чат-бота и робота есть общий корень “бот”, они сильно отличаются друг от друга. Чат-бот — не робот, а просто программа, которую можно запустить на любом компьютере, имея доступ к Интернету. Конечно, можно запустить чат-бота и на компьютере, встроенном в робота. Так, может, это простой способ создавать роботов, с которыми можно говорить? Давайте разбираться.
Большинство чат-ботов просто манипулируют языком, не понимая, о чем идет речь. Чат-боты достигли большего, потому что их разработчикам пришло в голову, что подключение к Интернету позволит им участвовать в большом количестве социальных взаимодействий, где боты будут учиться новому словарю и новым ассоциациям между тем, что вводит пользователь и что система должна отвечать. Обычно разработчики не позволяют чат-ботам учиться в реальном времени и отфильтровывают взаимодействия, прежде чем допустить к ним систему.
Для чат-бота беседа — всего лишь контекст, его задача — просто продолжать разговор. Поэтому он не сможет участвовать в конструктивной беседе, а будет выдавать набор готовых фраз. Но что можно сказать о голосовых помощниках?
Чтобы голосовые помощники могли поддерживать разговор, они должны считывать не только значение слов, но и контекст, понимать эмоции собеседника и реагировать на них. Здесь мы сталкиваемся с рядом проблем, поскольку легче придать роботу экспрессивное поведение, чем научить его распознавать поведение людей вокруг. Роботы на современном этапе развития технологий просто не могут с пониманием реагировать на то, что просит от них собеседник.
На данный момент самыми совершенными из подобных систем являются те, что преобразуют тексты в речь. Связано это с новым подходом исследователей под названием “выбор единиц”. Настоящую человеческую речь записывают в течение многих часов, диктор произносит заранее выбранные фразы. Далее умные алгоритмы “нарезают” эту речь на фрагменты и собирают их в новые фразы, не входившие в изначальный набор. У голосов остаются исходные свойства, даже региональный акцент. Это наиболее близко к воспроизведению роботами живой речи из всех других вариантов.
Обучение роботов языкам и их пониманию — процесс весьма сложный. Для него требуется постоянное взаимодействие роботов с реальным миром, под наблюдением, в ограниченных пределах. Инженеры, ищущие практические пути создания роботов, которые смогут удовлетворять человеческие ожидания в сфере понимания языка, вряд ли смогут отпраздновать победу в обозримом будущем.
«Жизнь с роботами. Что нужно знать каждому беспокоящемуся человеку» — книга профессоров компьютерных наук, призванная развенчать мифы, связанные с робототехникой. Восстание машин, интеллектуальное и эмоциональное развитие роботов, существование с ними в одном пространстве — так ли это опасно, как рассказывают нам СМИ? Стоит ли опасаться роботов или они созданы, чтобы упростить и улучшить нашу жизнь?
Купить книгу «Жизнь с роботами. Что нужно знать каждому беспокоящемуся человеку» (12+) можно по ссылке: https://go.ast.ru/a003l2p
Поделитесь этой статьей в социальных сетях и не забудьте подписаться на AСT nonfiction :)
Если вам понравилась эта статья, рекомендуем другие по теме:
