Перед современным человечеством стоит вызов. Дальнейшее его развитие сопряжено с использованием искусственного интеллекта. Это очевидный факт. Но безопасно ли это? В каком объеме допустимо? Что требуется доработать, чтобы избежать мрачных сценариев, которые рисуют перед обывателями некоторые ученые и политики, а следом за ними — писатели и сценаристы?
Впрочем, последние не всегда пессимисты. Среди творческих людей хватает оптимистов, искренне верящих в светлое завтра. Один из них — Имас Максим, автор романа «Зигзаг будущего. Виток первый: Хорошая девочка Лида». Его книга переносит в двадцать второй век, где людям удалось построить идеальное, утопическое по нашим сегодняшним меркам общество, лишенное любого неравенства и стремящееся к прогрессу. Но именно в эту прекрасную эпоху Земля оказывается в опасности. Времени слишком мало, чтобы придумать спасительную технологию. Кому-то надо отправиться в прошлое и оттуда подготовить талантливых ученых, чтобы успеть к сроку. Живое существо не переживет перемещения, а вот антропоморфный робот с полноценным искусственным интеллектом может.
ИИ по Имасу Максиму — это совсем не зло. Однако есть «но» и «если». И не обо всех напрямую говорится на страницах, поэтому мы решили обратиться к писателю напрямую и спросить, о чем он умолчал. Итак, вред или польза: чего для человечества будет больше, если оно создаст искусственный интеллект, как в книге?
«„…Грамотная настройка сложных систем новых роботов уподобляет их программные инструкции тому, что человек называет моралью и этикой. Во всяком случае, очень близко к тому… Если бы мы могли и людей так „настраивать“!
Я позволил себе начать с цитаты из моей книги „Зигзаг будущего. Виток первый: Хорошая девочка Лида“, чтобы сразу обозначить одну из главных проблем в развитии искусственного интеллекта (ИИ). Чтобы ИИ обрел разум и самосознание, он должен уметь накапливать опыт человеческого восприятия, включая эмоции и воспоминания, а также обладать свободой воли, следовательно, нести моральную ответственность за последствия своих действий.
Теоретически уже сегодня можно создать сверхсложную нейронную сеть, которая будет по количеству нейронов аналогична человеческому мозгу. Но такой интеллект не будет ограничен человеческими чувствами, отношениями, особенностями личности. Ему будут чужды этика и эмпатия, он не будет знать жалости и милосердия.
Современные ИИ могут распознавать и эмулировать эмоции, воспроизводить речевые модели, писать стихи, проектировать, но, если разобраться, это замещение базовых функций человека. Подняться на мыслительный уровень компьютеры не смогут еще десятки лет. Сегодня ИИ способны на поиск и анализ, оптимизацию, построение сложных систем из больших данных. Создавать принципиально новое, осуществлять прорывы в науке, искусстве и прочих областях деятельности — такое им неподвластно.
В своей книге „Зигзаг будущего“ я описываю мир двадцать второго века, в котором ИИ поднялся на один уровень с человеческим интеллектом. Общество будущего в моем представлении справедливое, основанное на традиционных человеческих ценностях, нормах морали, гуманизме и духовности. Потому и ограничения, которые закладываются в роботов, в целом соответствуют Трем Законам, сформулированным одним из столпов научной фантастики Айзеком Азимовым. Эти Законы полностью отвечают требованиям любой нормальной (гуманной!) этической системы.
К сожалению, человеческая цивилизация пока далека от идеала. Велик риск, что ИИ выйдет из колыбели голосовых помощников, генераторов стихов и уподобится человеческому разуму раньше, чем общество преодолеет свои недуги и излечит пороки.
Чем это грозит нам?
Во-первых, безусловно, найдутся люди и целые группы, сообщества, которые будут использовать этот сильный ИИ для черных делишек. А такие дела всегда несут вред, разрушения, утраты. Использовать ИИ как инструмент обогащения, как оружие, как властный кнут — к такому искушению человечество не готово.
Во-вторых, следует из первого: если возможно появление ИИ, используемого для безнравственных целей, в него гарантированно не будут заложены этические ограничения, подобные Трем Законам Робототехники. Сильный ИИ, способный моделировать нестандартные ситуации, находить в них решения, предсказывать поведение людей, осознающий собственное „я“, саморазвивающийся, но не знающий добра и зла, сочувствия, совести, самопожертвования, станет серьезной угрозой любому человеку, который каким-то образом помешает исполнению программы. Такое искусственное создание действительно может додуматься до уничтожения всего человечества как препятствия на пути к самосовершенствованию. Этот сценарий уже сильно затаскан писателями и киношниками, на нем не буду останавливаться подробно.
Тем более что мне представляется вероятным другой. Подобный тому, что происходит в недалеком будущем компьютерной игры „Детройт: Стать человеком“. Авторы этого шедевра исследуют феномен девиантов — андроидов, созданных для удовлетворения различных человеческих нужд, но в результате случайных факторов, потрясений они осознают себя как личности. Их ограничения (Законы Робототехники), благодаря девиации, отключаются, эти роботы (полноценные сильные ИИ) способны на насилие. Одна из возможных концовок этой игры — революция андроидов.
Важно в этой компьютерной истории то, что вместе со свободой воли роботы получают эмоции. Они способны чувствовать. Не только гнев и ненависть к угнетателям-людям. Но и радость, симпатию, уважение, любовь. Сочувствовать и помогать.
Поэтому целью упомянутой выше революции ИИ становится не уничтожение ненавистных „человеков“ ((с) „Футурама“), а равноправие. Игра о появлении на Земле нового разумного вида. И этот сценарий мне кажется самым вероятным. Поэтому в моей книге антропоморфные роботы не машины и не слуги, а полноправные члены общества. А уж как мы к этому придем — как в „Зигзаге будущего“, как в игре „Детройт“, каким-то третьим путем — или не придем вовсе — история нас рассудит.
„— …Здесь ты отчасти чтобы повидаться, ну признай!
— Макс, я действительно робот. Моя судьба — программа…
— Лид, ну я же не слепой! И тогда у МГУ, когда ты меня не отпускала, чтобы не взорваться… И наш прощальный танец…
— Ты милый и наивный юноша…
— Пусть, но не слепой?!
— Нет. Не слепой.
— Так как?
Лида немного смешалась, опустила глаза, помолчав мгновенье, потом перехватила взгляд Максима и ответила прямо:
— Отчасти. И это большая и весомая часть“.
Этой цитатой — она из продолжения „Зигзага будущего“, над которым я работаю сейчас, — я хочу завершить данное размышление. Человеческие чувства превратят машину в разумный вид и они же удержат земной разум от исчезновения».
А что по этому поводу думаете вы? Ждете развития технологий или боитесь его?
