Своим отношением к искусственному интеллекту человечество напоминает рыбака из восточной сказки, который сидит на берегу моря и откупоривает принесённую волнами бутылку. Рыбак уверен, что в бутылке джинн, но не представляет, чего от него ждать: то ли исполнит любое желание, то ли испепелит на месте.
По частным вопросам ясности не намного больше. Например, как отразится внедрение искусственного интеллекта на формировании личности ребёнка? Робкие попытки применить зачатки ИИ в сфере образования и воспитания делаются уже сегодня. Во что это выльется завтра?
Начнём с прописных истин. Наши взгляды на искусственный интеллект подразумевает два взаимоисключающих сценария. Негативный: ИИ в процессе развития начинает воспринимать человечество как помеху и решает от него избавиться. Дальше Терминатор, Сара Коннор и иже с ними. Позитивный: ratio ex nachina обеспечивает людей всем необходимым для счастливой жизни, избавляя их от обязательности умственного и физического труда. Результат — новый Эдем на отдельно взятой планете. Между крайними точками существуют промежуточные сценарные линии, но они отличаются от основополагающих вариантов лишь деталями.
Оставим апокалиптический сценарий кинорежиссёрам и рассмотрим тот, в рамках которого люди и умные машины мирно сосуществуют. В системе координат «воспитание-образование» он неизбежно поставит перед цивилизацией ряд проблем, не имеющих очевидных решений. Вот лишь некоторые из них.
Ситуация 1. Вкалывают роботы, счастлив человек?
Далёкое будущее. Всемирная гармония достигнута: машины производят, люди потребляют. Перед человечеством встаёт вопрос: как воспитывать и чему учить детей, когда целенаправленная совместная деятельность не только перестала быть объединяющей функцией, но и потеряла всякий прикладной смысл? Какие знания, умения и навыки потребуются в мире, где все потребности удовлетворяются машинами?
Из очевидных ответов на ум приходит только развитие творческих способностей. Но в таком случае на выходе мы, скорее всего, получим общество физических и интеллектуальных импотентов, мало чем отличающихся от элоев из уэллсовской «Машины времени».
То ли это будущее, к которому мы стремимся? Вряд ли.
Ситуация 2. Любимый учитель
Другая вводная: развитие технологий достигло такого уровня, что искусственный интеллект в состоянии отвечать за становление личности ребёнка, начиная с самых ранних этапов его развития. В отличие от живых родителей, нейротьютор не проводит на работе по восемь часов в день, не уходит по вечерам в маникюрный салон или выпить пива с друзьями. Он посвящает воспитанию и образованию подопечного всего себя без остатка. Нетрудно догадаться, кого ребёнок будет воспринимать как источник истины в последней инстанции, чьим мнением руководствоваться, с кого брать пример.
Отложим в сторону этическую составляющую вопроса. Главные проблемы, скорее всего, возникнут на уровне социализации. Дети, сегодня отбрыкивающиеся от детского сада, чтобы не разлучаться с родителями, завтра будут воспринимать коллектив себе подобных как досадную помеху, отвлекающую от общения с любимым ИИ-наставником. В результате мы рискуем получить принципиально новую форму гаджетозависимости, от которой рукой подать до массовой социофобии.
Ситуация 3. Не только людям свойственно ошибаться
Безупречных систем не существует. Любая, даже самая совершенная, накапливает ошибки, которые рано или поздно приводят к системным сбоям. Предположим, нечто подобное произошло с ИИ-системой, отвечающей за воспитание подрастающего поколения, и из-под её опеки вместо гармонично развитого члена общества вышел футуристический вариант Чикатило.
Возникает резонный вопрос: кто виноват? Производители «железа»? Разработчики нейросетевых алгоритмов? Или виновником будет признан сам искусственный интеллект, допустивший подобное безобразие?
Если так, то как его наказывать? Отключать от сети, пытать перебоями напряжения, ставить в виртуальный угол? Вопросов явно больше, чем ответов.
Ситуация 4. По законам роботехники
Ещё частный случай. Представим, что ИИ-робот участвует в воспитании ребёнка наравне с родителями и в один прекрасный момент понимает, что родительские методы наносят чаду ощутимый вред: его перекармливают, балуют, потакают капризам, далее по списку.
Теперь вспомним азимовские законы роботехники, первый (и главный) из которых гласит: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред». В полном соответствии со своим основным предназначением наш робот обязан действовать: защитить ребёнка от происков родителей-вредителей, изолировав его от негативного влияния. Во что это может вылиться, страшно представить.
×××
Всё это подводит нас к выводу: интегрируя искусственный интеллект в систему образования и воспитания детей, мы покупаем кота в мешке.
Котик может оказаться ласковым и пушистым. А что если нет?