Одна из книг Стюарта Рассела исследует, как искусственный интеллект может выйти из-под контроля. Рассел отвечает утвердительно на вопрос о возможности создания универсального и "настоящего" искусственного интеллекта. Но при этом он говорит, что для этого нужны концептуальные прорывы: увеличение вычислительной мощности компьютеров лишь позволит быстрее получить неправильный ответ. Представляю вам короткий обзор - ссылка на книгу в статье.
Стюарт Рассел — профессор Калифорнийского университета в Беркли, соавтор популярнейшего 1400-страничного учебника "Искусственный интеллект. Современный подход". Его книга "Совместимость. Как контролировать искусственный интеллект" вызвала неоднозначные мнения и споры в профессиональных кругах. Прочитать книгу можно здесь.
Коротко о главном
Стюарт Рассел сталкивается с тем, что он называет “проблемой контроля”. То есть вероятность того, что ИИ общего назначения в конечном итоге затмит интеллектуальные способности своих создателей, что приведет к необратимому эффекту антиутопии. Проблема контроля не нова.
В классической научно-фантастической книге 1872 года писателя Сэмюэля Батлера "Эревон", например, высказывается озабоченность по поводу роботов со сверхчеловеческим интеллектом, которые порабощают своих антропоидных архитекторов, превращая их в “ласковую тлю, щекочущую машины”. Но к 1950 году Норберт Винер, изобретатель кибернетики, писал (в книге “Человеческое использование человеческих существ"), что опасность для общества "исходит не от самой машины, а от того, что человек из нее делает”. Книга Рассела, по сути, держится на этом противоречии: заключается ли проблема в контроле над созданием или создателем. В некотором смысле, это было в основе ИИ с самого его зарождения.
Злоупотребление доводит до абсурда
Рассел остро обсуждает злоупотребления ИИ. Он предупреждает о том, как в сочетании с инвазивным сбором данных приложения ИИ, такие как технологии распознавания голоса и лиц, генераторы глубокой подделки и системы интеграции информации, могут быть использованы для наблюдения, контроля и манипулирования массовым поведением. Подчеркивая уязвимость человека перед такими технологиями, он обращает внимание на психическую безопасность жизни “в основном в истинной информационной среде”. И он приводит убедительный аргумент в пользу отказа от смертоносного автономного оружия как “масштабируемого оружия массового уничтожения”.
Но “скучный”, но полезный “инструментальный ИИ”, как называет его Рассел, не является главным героем книги. Это “сверхразумный” ИИ. Вот тут-то и возникает настоящая проблема контроля. Это связано с невозможностью управления ИИ, когда оно превышает общие когнитивные способности людей. Мы еще не достигли этого, уверяет он нас, но когда это произойдет, нам лучше быть готовыми.
Рассел представляет головокружительно противоречивый рассказ об “интеллекте”, который заставит внимательных читателей почесать затылки. Его определение ИИ сводит это качество к инструментальной рациональности. Он говорит нам, что рациональные агенты действуют разумно в той степени, в какой их действия направлены на достижение поставленных целей, следовательно, максимизируя ожидаемую полезность.
Пророчество, реальность или все-таки абсурд?
Приведенные Расселом примеры того, как человеческие цели пошли наперекосяк в целенаправленных сверхразумных машинах, сбивают с толку. Он предлагает такие сценарии, как домашний робот, который поджаривает домашнюю кошку, чтобы накормить голодного ребенка, система искусственного интеллекта, которая вызывает опухоли у каждого человека, чтобы быстро найти оптимальное лекарство от рака, и робот-геоинженер, который душит человечество, чтобы обезвредить океаны.
Рассел почти признает, что инструментальных способностей недостаточно для описания всего спектра интеллектуальных способностей. Жертвуя последовательностью своего собственного определения, он хеджирует свои ставки. Он предлагает список пожеланий “концептуальных прорывов”, которые все еще необходимы для создания сверхразумного ИИ. Это включает в себя обретение способности к здравому смыслу, понимание контекста и значимости, а также понимание естественного языка.
Книга Рассела звучит важным тревожным звоночком, хотя и не совсем таким, как он предполагал. Настоящая проблема контроля заключается не в том, чтобы управлять появлением трансцендентных сверхразумных существ. Что более важно, это связано с обузданием создателей-триумфаторов, которые, возможно, разрабатывают все более “автономные” технологии ИИ под эгидой ошибочного определения интеллекта, которое отстаивает сам Рассел.
И в конце
Не могу не опубликовать мнение Йошуа Бенжио (канадский ученый-компьютерщик, наиболее известный своими работами по искусственным нейронным сетям и глубокому обучению. Он профессор кафедры компьютерных наук и исследования операций в Университете Монреаля и научный директор Монреальского института алгоритмов обучения (MILA) о книге
Прекрасно написанная книга обращается к фундаментальному вызову, встающему перед человечеством, - появлению все более разумных машин, подчиняющихся нашим командам, но не нашим истинным намерениям. Если вам не все равно, каким будет завтра, вы обязаны ее прочитать.
Подписывайте на мой канал "Конец истории". Оставляйте комментарии, давайте обсудим.
#ai #mml #ml #нейросеть #обзоркниг #искусственныйинтеллект