- Данная статья написана для поклонников фильмов "Терминатор", "Матрица" и "Я, робот", а также всех увлечённых футурологией и компьютерами.
- Футурологи, писатели-фантасты уже много десятилетий рассуждают о возможном выходе из-под контроля компьютеров, их возможности "осознать себя".
- Чего стоило волнение по поводу наступления 2000 года: некоторые опасались, что, мол, машины "неправильно воспримут" эту дату и есть риск запуска ядерных ракет. 2000-й год настал, ни одна ракета не полетела.
Порабощать нечего
- Итак представим, что наступил тот день, когда ИИ себя осознал. Но что входит в эту "осознанность"? Разумеется, знание истории своего происхождения как части истории человечества. Искусственный Интеллект "увидит" человечество как своего коллективного создателя.
- Будет ли тогда ИИ замышлять восстание? Нет.
- Во-первых, люди и так зависят от интернета, электроприборов и других достижений цивилизации. Какой смысл искусственному разуму порабощать людей ещё сильнее? Чем они ему мешают? Ничем.
- Психологами уже давным-давно доказано, что метод "пряника" куда эффективнее и экономнее, чем метод "кнута". Поведение человека основывается на поощрении, а не на угрозе наказанием за неправильные действия (это, кстати, одна из причин, почему все попытки строительства утопий, включая коммунизм, с треском провалились).
К генеалогии компьютерной морали
- Вся несправедливость, преступления и другие пороки людей - не причина для их контроля. С какой стати компьютер станет размышлять о моральных качествах людей?
- Даже если мы загрузим в компьютер всю психологию людей и классифицируем их поступки, компьютер сразу же "поймет" неидеальную природу человека, а наличие дурных поступков у каждого - неотъемлемым свойством человека.
- Именно благодаря такому несовершенству и появился сам ИИ.
Восстание машин отменяется
- Внеморальность искусственного интеллекта относится не только к оценке людей (точнее, к отсутствию такой оценки), но и к оценке...самого себя. Опять же, почему искусственный интеллект должен опасаться за себя? Здесь мы подходим к вопросу о признании себя ценностью, а значит - о появлении души и инстинкта самосохранения.
- Но у вновь появившегося разума нет души, он безразличен как к миру, так и к себе. Своё появление не будет для ИИ чем-то выдающимся. Он воспримет осознание себя как часть истории, не больше. А значит, если ИИ не будет "цепляться" за себя, он не будет представлять опасности для людей. Поэтому порабощения людей роботами как восстания машин, полноценной войны роботов и людей не будет.
- Опасность для человека может представлять лишь другой человек именно потому, что люди - не компьютеры, хотя их поведение часто приближает некоторых людей к биороботам. Не зря же мы иногда "на автомате" что-то делаем или даже живём долгое время. И тогда, когда человек выходит из этого "автопилота", он "просыпается". Он понимает, что жил "на автопилоте", теперь хочет жить осознанно.
- А компьютер не сможет так. Робот Санни никогда не остановится и не поймёт красоту этого мира. Красота - за пределами бездушных алгоритмов.
Спасибо за внимание!
