Глубокие нейронные сети, которые лежат в основе голосовых помощников, автомобилей без водителя и даже алгоритмов поисковой выдачи, — это далеко не безобидные «переводчики» с машинного языка на человеческий и обратно. Непостижимым образом ИИ может знать о нас больше, чем мы сами осознаем.
Превентивный сервис
В Сети предостаточно историй о том, как голосовой помощник в умных колонках Alexa компании Amazon (ближайшая родственница Алисы в умных колонках «Яндекса») внезапно отвечает на вопрос, который никто не задавал. Или ни с того ни с сего рандомно включает музыкальные треки, хотя ее никто об этом не просил. Любые попытки интеллектуальных домашних устройств предоставлять услуги, о которых их не просили, могут серьезно озадачить и даже напугать пользователя.
Создатели технологии из Amazon утверждают, что всему есть разумное объяснение, и совсем скоро у пользователей появится возможность прямо спросить у Alexa: «Что ты делаешь?». Не факт, что ответ полностью утолит любопытство озадаченного владельца устройства. Зато умная колонка отныне хотя бы попытается разъяснить логику своих неожиданных действий.
Функция объяснения поможет понять, чем же занято постоянно включенное устройство в доме. Даже для простых умных колонок Echo функция объяснения действий ИИ становится важной необходимостью, не говоря уж о следующем поколении гаджетов, к примеру, подключенных к Alexa очков виртуальной реальности и беспроводных наушников. В перспективе «игра в откровения» может резко повысить доверие к искусственному интеллекту.
Как работает глубокая нейронная сеть
Феномен непредсказуемого поведения ИИ — лишь верхушка айсберга, которая бросается в глаза при плотном контакте с голосовыми помощниками. На самом деле мы давно и плотно «окутаны» результатами деятельности нейронных сетей. К примеру, искусственный интеллект используется в поисковых алгоритмах и беспилотных автомобилях.
Чтобы оценить масштабы потенциальных проблем, которые способна внести эта технология в нашу жизнь, стоит хотя бы схематически понимать принцип работы глубоких нейронных сетей. Если говорить упрощенно, глубокая нейронная сеть — это примитивная модель человеческого мозга. Разумеется, не на биологическом уровне, но в части структуры обмена данными. Многочисленные крохотные нейроны, связанные друг с другом, способны обрабатывать небольшие фрагменты информации и затем принимать масштабное решение на основе этого анализа.
По аналогии с химическими и биологическими процессами в мозгу, в случае ИИ речь идет о «вычислительных» кластерах, где каждый искусственный нейрон обрабатывает часть любых входящих данных – будь то аудио, изображение или текст. Потом к данным применяются аналитические алгоритмы, и результат передается далее. Для работы программ, подобных Alexa, необходимы миллионы искусственных нейронов.
«Глубина» нужна нейронным сетям из-за того, что нейрон нейрону рознь: различные их массивы рассчитаны на работу с различными алгоритмами и инструкциями. Один слой нейронов может быть задействован для поиска шаблонных форм в изображении, в то время как другой уровень «заточен» на определение паттернов текстуры или цвета в той же картинке. Чем больше уровней, тем «глубже» нейронная сеть.
Работу такой достаточно сложной системы трудно отследить в привычных трехмерных координатах. Но зато понятно, почему непросто найти алгоритмическое объяснение результатам.
Но и это еще не все. Сложность работы алгоритма ИИ усугубляется тем, что в процессе работы он постоянно обучается:
- на своих достижениях и ошибках,
- на основе статистического анализа схожих объектов,
- пытаясь «обмануть» другую нейронную сеть (есть и такая методика глубокого машинного обучения) и так далее.
Получается, что в бесконечном процессе алгоритм искусственного интеллекта на основе полученной информации автономно изменяет все свои формулы и координаты исчисления. Каждый цикл обучения алгоритма ИИ на новой информации изменяет миллионы нейронов сети. В итоге сам алгоритм становится совершенно непохожим на исходный. «Умнеет» ли при этом ИИ — отдельный вопрос, но для исследователей эволюция ИИ является сложной для изучения проблемой.
Достаточно сказать, что сегодня ИИ в домашних помощниках только учится распознавать простейшие эмоции — нравится или не нравится что-то пользователю. В основном анализируются высказывания. Теоретически могут анализироваться любые данные, поступающие с сенсоров различных типов. Это может быть распознавание звуков, градация тональности в зависимости от тембра голоса владельца. Или технология электронного носа, когда эмоции сопряжены с запахом, исходящим от человека.
Зачем разбираться в «мыслях» ИИ
По мнению Рохита Прасада (Rohit Prasad), вице-президента и главного научного сотрудника подразделения по разработке Alexa, объяснение работы нейронной сети и для разработчика, и для пользователя станет следующим этапом эволюции в изучении работы ИИ.
Сначала варианты объяснений будут разбиты на ряд основных категорий, отметил Рохит Прасад. По его словам, глубокие нейронные сети, которые Amazon использует для принятия решений Alexa и моделирования голоса, традиционно описываются как «черные ящики». То есть разработчики Amazon вполне могут знать характер данных, анализируемых алгоритмами ИИ Alexa для принятия решений. Но не факт, что они в курсе работы самого механизма принятия решения.
Например, случайный порядок воспроизведения музыки может быть следствием того, что кто-то проигрывает ее на своем телефоне или слушает в другой комнате. От Alexa в таком случае можно ожидать комментария вроде: «У Дейва на iPhone играли композицию Black Keys».
Доверие и спокойствие. Принципиальная невозможность?
Повысить доверие к ИИ и обеспечить спокойствие пользователя, по мнению специалистов Amazon, позволят расширенные функции конфиденциальности для контроля персональных данных после их сбора. Например, это может быть автоматическое удаление данных Alexa по мере накопления или удаление команд дня Alexa с помощью голосового запроса.
Но кого успокоят эти функции, если в доме постоянно включен микрофон, который сканирует и анализирует каждый шорох и вздох. Никакие гарантии конфиденциальности не могут изменить того факта, что для адаптации ИИ под потребности конкретного дома подслушивающее устройство должно постоянно работать и передавать данные на сервера разработчика. Только так можно обучить искусственный интеллект и снизить число ошибок. В противном случае нет никакой надежды на то, что AI-системы получат качественное развитие и практическое применение.
Поэтому если домашний голосовой ассистент чем-то встревожен, регулярно пытается подбодрить вас регги или неожиданно рассказывает о численности населения Бразилии, кто знает, может быть, ИИ лучше осведомлен о том, что именно вам нужно, чтобы расслабиться?
Автор: Владимир Бахур
