Часть 1
Часть 2
В заключительной части материала об искусственном интеллекте поразмышляем о перспективах и возможных последствиях его использования в нашей повседневной жизни. В том числе негативных. ИИ определенно делает жизнь людей проще, но всегда ли это хорошо? Стоит ли делегировать ему все больше трудовых функций и ждет ли нас “восстание машин”?
Конец труда?
Все производят роботы, люди свободны от необходимости ходить на работу, и их материальные потребности решены. Теперь они могут спокойно развиваться и заниматься творчеством. Это - краткий упрощенный пересказ того, как некоторые фантасты и ученые представляли себе идеальный мир будущего. Примерно таким должен быть и Марксов коммунизм. Эксплуатации, то есть присвоения одними людьми результатов труда других, здесь нет. Она не нужна, поскольку все производят машины.
Рай на земле? Как посмотреть. Даже если опустить тот факт, что автоматические заводы должен будет кто-то обслуживать и ремонтировать, остаются другие вопросы. Главный: “Какими будут люди при таком общественном устройстве?”. Оптимистичный сценарий - станут художниками, путешественниками и учеными. Пессимистичный - обленятся и будут такими же, как в “Валли”.
Нужно понимать: в ближайшем будущем Земле не грозит тотальная роботизация и исчезновение человеческого труда. Экономически и технологически разные регионы и государства развиты неодинаково. Во многих странах Африки, Центральной Америки или Азии не создана даже стандартная промышленность уровня 20-го века, не говоря об автоматизированных заводах. Их экономики во многом остаются аграрными и слабыми технологически.
Кто кем управляет?
Алгоритмы социальных сетей и платформ вроде YouTube внимательно следят за нашими интересами и предпочтениями, чтобы вовремя подавать нам “информационные блюда” по вкусу. Мы все чаще видим то, что нам интересно и приятно. И все реже - то, что может вызвать дискомфорт, расширить кругозор или дать новый опыт. Получается “информационный пузырь”. Созданная человеком среда, которая сама начинает его контролировать.
Пребывая в комфорте и общаясь только с людьми схожих взглядов, человек все больше отдаляется от остальных. Общество атомизируется, социальные связи истончаются. В крайних случаях мы получаем социум, состоящий из абсолютно чуждых друг другу людей. Например, снимающих на смартфон ситуации, в которых нужно срочно помогать.
Люди против роботов?
Самый страшный сценарий развития отношений людей и ИИ - это война между ними. Он не раз рассматривался в фильмах, играх и книгах: от “Терминатора” до Mass Effect. Возможно ли подобное в реальности? Вопрос не столь праздный, учитывая, что в войнах люди все больше полагаются на машины, а современные военачальники стремятся сохранить жизни подчиненных.
Беспилотными становятся не только летательные аппараты, но и наземные боевые машины, а также суда. Некоторыми управляют операторы, однако автономные военные беспилотники уже есть. Их программируют на принятие решений во время боевых действий, в связи с чем возникают серьезные опасения. Будут ли такие системы следовать законам ведения войны? Не атакуют ли гражданские цели?
Еще в 2017 году Илон Маск и ряд специалистов призвали запретить автономное оружие на международном уровне. Открытое письмо подписали физик Стивен Хокинг, сооснователь Apple Стив Возняк и другие. Не случайно первый закон робототехники из трех, сформулированных Айзеком Азимовым, запрещает роботам вредить человеку или допускать причинение такого вреда бездействием. Возможно ли будет загрузить подобные нормы в высокоуровневые ИИ будущего и быть уверенными в их выполнении - отдельный вопрос.
Подведем итог:
Искусственный интеллект - сложное и неоднозначное явление. Как и большинство технологий, он может быть использован ради благих целей или во вред. Однако от остальных человеческих инструментов его отличает автономность, способность действовать самостоятельно. Это и делает ИИ потенциально опасным.
С другой стороны, полноценный искусственный интеллект мы пока не создали. И не факт, что создадим в обозримом будущем.
#искусственныйинтеллект #сверхразум #роботизация