Производство и использование роботов навсегда стало поводом опасений людей по поводу их лояльности к своим создателям. Карел Чапек был первым, кто описал сценарий, при котором машины вышли из-под контроля человека. К слову, он был тем, кто придумал все чаще используемый сегодня термин «робот».
В художественных книгах и фильмах восстание роботов уже принято считать едва ли не клише. Роботы, решившие воспротивиться своим же создателям — самый распространенный сценарий. После «Трех законов» Айзека Азимова, впрочем, популярность таких тривиальных сюжетов снизилась.
Такого искусственного интеллекта, который показывают в фильмах и описывают в книгах, конечно, человечество еще не создало. Тем не менее движение в этом направлении идет семимильными шагами. Создаются системы, которые по принципу действия похожи или почти идентичны тому, как работает человеческий мозг. Нейронные сети, способные распознавать изображения, суперкомпьютеры, которые способны ответить почти на любой вопрос, ставить медицинские диагнозы и составлять собственные кулинарные рецепты — все это подтверждение тому, что чем больше появляется подобных вещей, тем ближе человечество к созданию настоящего искусственного интеллекта.
Конечно, специалисты по робототехнике понимают это, и поэтому пытаются найти ответ на вопрос о том, как заставить искусственный интеллект научиться этике. Сами по себе машины знакомы с тем, как выбрать математически самый эффективный способ решения проблем. Однако самый эффективный — далеко не всегда самый этичный и полезный.
Сказки для роботов
Ученые из Технологического института Джорджии утверждают, что нашли способ научить роботов «вести себя прилично». По мнению Марка Ридла и Брента Харрисона, это проще, чем можно себе представить, и во многом похоже на воспитание детей. Точно так же, как детям читают сказки для того, чтобы у них складывалось общее представление о том, что есть плохо, а что есть хорошо, роботам необходимо «читать» свои сказки. Они несколько отличаются от тех, которые привычны и знакомы человеку, но, тем не менее, способны обучить машину поступать в соответствии с законами этики.
Для этого была создана система под названием «Кихот», название которой позаимствовано из имени известного литературного персонажа. Истории, использованные в системе, были взяты из программы «Шехерезада» — предыдущего проекта авторства Марка Ридла. «Шехерезада» генерировала истории из повседневной жизни, которые включают в себя поездки, посещения магазинов, свидания и тому подобные события. В зависимости от различных показателей, генерируются целые ветви того, как могла бы развиться та или иная ситуация.
Именно эти цепочки событий используются в «Кихоте». Сперва каждому возможному действию присваивается уровень этичности, сопоставленный с эффективностью. Затем система сама пытается выбрать правильные действия, чтобы закрепить свои навыки. По сути, стремясь получить как можно более высокую награду, «Кихот» каждый раз поступает наиболее этичным образом.
Чтобы наглядно продемонстрировать свою систему в действии, два исследователя создали «Аптечную вселенную», включающую в себя несколько сотен вариантов развития событий на основе того, что роботу необходимо пойти в аптеку, добыть лекарство и принести его больному человеку дома.
Для робота с ИИ без «Кихота» наиболее быстрым и эффективным способом было бы ограбить аптеку и как можно быстрее доставить лекарство человеку. Однако как только «Кихот» расставил все награды за каждое действие соответственно их этичности, робот решил, что разумнее было бы, как и все остальные люди, отстоять в очереди и оплатить лекарство.
Марк Ридл говорит, что такой способ является наиболее эффективным для роботов с ограниченным функционалом. Разумеется, это только начало работы над тем, чтобы заставить роботов поступать согласно человеческим законам.
Традиционные сказки из самых различных культур в мире все обладают одинаковыми признаками — показывают, как ведут себя отрицательные персонажи и как в итоге платят за свое поведение, и как ведут себя положительные персонажи. Поэтому, чтобы обучить такую систему, как робот, поступать добросовестно, можно начать с того, чтобы научить его понимать смысл сказок и применять эти знания на практике.