Прибежали в избу дети, второпях зовут отца: «Тятя, тятя, нейросети пишут лучше Гришковца».
Шутка, конечно, уморительная, но настолько же и правдивая. Нейросеть (одна из форм искусственного интеллекта) уже умеет писать тексты в стиле Гоголя и сочинять симфонии в духе Баха. Пока что все эти проекты не имеют большой творческой ценности (сюжет текста был дан людьми, а мелодию симфонии аранжировали музыканты), однако недалек тот день, когда со сцены будет петь антропоморфный робот и материться не хуже Шнурова. Соответственно, возникает вопрос: а не заменят ли они всех писателей, музыкантов, художников, кинематографистов и т. д.?
Джон Сёрл очень убедительно утверждает, что нет. В его мысленном эксперименте он помещается в небольшую комнату, заставленную табличками с китайскими иероглифами. С одной стороны, ему подаются иероглифы, к которым ученый добавляет еще несколько согласно книге правил, находящейся перед ним. С другой, принимаются данные ему таблички и найденные им. И Сёрлу совершенно неизвестно, какое значение несут эти иероглифы. Однако каждый раз он выдает на выходе полноценные фразы. То есть смысл есть, а осознания – ничуть. Поэтому порабощение умными машинами с сознанием нам не светит.
Но не все так просто. Нейросети - это только программы с определенным набором алгоритмов решения проблемы, это системы способные к самообучению. Раз за разом пробуя выполнить ту или иную задачу, нейросеть совершенствуется, и становится всё точнее. Уже были проведены эксперименты, которые предполагали отправку нейросетей в свободное плавание. В итоге, Тау (чатбот Microsoft c ИИ, изображающий девочку-подростка) за сутки стала расисткой, и ее пришлось отключить. А Алиса с Бобом от Google придумали свой язык для тайного общения. Нельзя исключать, что когда-нибудь они будут способны к осознанным действиям. Смогла же эволюция прийти от одноклеточного организма к человеку.
Тогда возникнет проблема куда серьезнее. Человек индустриального общества смирился с тем, что на производстве его заменили механизмы, человек информационного общества тоже, возможно, примириться с тем, что его интеллектуальный и творческий труд будет выполнять искусственный интеллект. Но как же нам жить бок о бок с машинами и не воплотить в жизнь сценарий "Терминатора"?
Ответ только один: необходимо дать им набор моральных норм, которым нужно беспрекословно следовать. Не убий, не укради... Но всегда ли работает это в жизни с человеком? Нет, далеко не всегда. Что же может гарантировать беспрекословное следование ИИ законам? Вопрос остается открытым.
