Недавно мы отметили столетие выдающегося американского писателя-фантаста Айзека Азимова. Его вклад в развитие фантастики огромен, и одна из самых интересных его идей - три закона робототехники, положенные в основу серии рассказов, большинство которых составили сборник “Я, робот”. В этих рассказах описано человечество, создавшее универсальных антропоморфных роботов, чей позитронный мозг моделирует естественный интеллект человека. Роботы Азимова используются в самых разных областях, от домашних работ до освоения космоса. Для того, чтобы сделать роботов безопасными, они снабжены тремя законами, выполнять которые они обязаны неукоснительно. Вспомним эти три закона:
- Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.
- Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
- Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
Позже Азимов добавил к ним еще один, “нулевой” закон: Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред.
Но сейчас нас интересуют все-таки “классические” три закона: обратите внимание, что сегодня люди применяют роботов и интеллектуальные компьютерные системы достаточно широко, но про массовое применение трех законов пока не слышно. Почему? В чем Азимов оказался не прав?
Это не те роботы
В рассказах великого фантаста применяются роботы, схожие с человеком. В реальности сегодня робот, который мы можем с наибольшей вероятностью встретить, это совсем не человекоподобная шагающая машина, а больше похощий на гигантский фрисби робот-пылесос:
Даже не говоря о том, что эта машина с большим трудом может причинить человеку вред (хотя, наверное, можно придумать такую ситуацию), ее возможностей точно не хватит на то, чтобы уместить в них сложные моральные дилеммы. То же самое мы можем сказать о промышленных роботах - они обладают гораздо большими возможностями и случаи, когда они наносили человеку травмы уже известны, но что-то я не слышал о том, чтобы роботизированные станки снабжались моралью. Ну или возьмем другой тип роботов:
Да, беспилотник - это не вполне робот, но совсем не за горами то время, когда их начнут снабжать искуственным интеллектом, причем довольно развитым. И опять никакое применение трех законов Азимова тут не случится, просто потому, чтобы эти роботы созданы, чтобы причинять вред человеку. Кстати, о такой возможности думал и сам Азимов: в одном из его рассказов понятие “человек” для группы роботов было изменено так, чтобы оно не распространялось на некоторых людей. Таким образом в рассказе стел возможен “роботизированный геноцид”. И тут мы подходим к очередной проблеме?
Что есть человек? Что есть робот?
Эти вопросы просты, когда их обсуждаем мы с вами, люди, снабженные натуральным интеллектом. Мы с вами легко понимаем, что изображено на следующей картинке:
Конечно, это ребенок в костюме робота. А как это воспримет искусственный интеллект? Точно ли он сможет уверенно определять человека в любой ситуации? Если он встретит Инвалида в коляске? И спящий человек или человек в коме - всегда будет восприниматься роботом, как человек, даже если он не способен реагировать? А если при этом инвалид еще снабжен большим количеством протезов, татуировок, пирсинга и прочими штуками, модифицирующими тело - искин все так же будет уверен в человечности человека? Или идентифицирует его, как мусор, подлежащий удалению?
Когда живущий в вашем телефоне интеллектуальный ассистент - Алиса или Сири - воспринимает звучащую в фильме фразу как ваше распоряжение, это может быть забавно или может раздражать, но что будет, если речь идет о серьезном роботе с большими возможностями, который остался без контроля и неправильно понял сигнал из внешнего мира, каковы могут быть последствия?
Законы не нужны
Одним словом, при том, что Айзек Азимов поставил перед человечеством большие вопросы относительности этичности использования роботов, все же мы можем сказать, что его три закона робототехники, скорее всего не будут применяться, по крайней мере, в ближайшем будущем. Главные причины для этого - то, что универсальные роботы, если и появятся, то очень нескоро; потому что роботов будут активно использовать военные, а им не до этики; потому что создать интеллект, уверенно опознающий человека и отличающий его от робота пока не представляется возможным, а без этого три закона Азимова теряют смысл.
Чтобы не пропустить следующие наши публикации - подпишитесь на канал.
А еще на нашей странице во ВКонтакте мы выкладываем фантастические аудиорассказы молодых российских авторов. И у нас есть стримы - мы недавно смотрели "Двухсотлетнего человека" и обсуждали законы робототехники.