Подумайте, как бы могли ответить на насущные вопросы сами, и спросите друзей.
Вы бы загрузили свой мозг в компьютер, если бы можно было?
Представьте, что наступило будущее, в котором можно создать цифровую копию своего сознания. Только эта новая версия умнее вас, и со временем у неё начинают накапливаться впечатления, которых у вас никогда не было.
Вы бы готовы были пойти на такое? Почему? Нужно ли вам нести ответственность за поступки, совершаемые вашей цифровой версией? Есть ли у вас право заводить отношения с чьей-то копией?
Должна ли у родителей быть возможность вносить изменения в гены своего ребёнка?
Если бы у вашего ребёнка нашли врождённый порок сердца и нужно было бы избавиться от определённого гена, чтобы его спасти, как бы вы поступили? А что, если бы своё чадо можно было сделать умнее или красивее?
Должны ли родители иметь право выбирать цвет кожи и сексуальную ориентацию ребёнка? А что, если бы это могли делать только состоятельные люди? Что, если бы вы, в отличие от всех остальных, решили не редактировать гены своих детей?
Может ли самоуправляемый автомобиль убить пассажира, чтобы спасти пятерых пешеходов?
Представьте: вы едете в самоуправляемом автомобиле по дороге с двусторонним движением. Внезапно на проезжую часть выбегают пятеро детей. У машины три варианта: сбить детей, врезаться в автомобиль на встречной полосе или въехать в дерево на обочине.
В первом случае могут погибнуть пять человек, во втором — двое, в третьем — один. Какой вариант выберете вы?
Сядете ли вы вообще в машину, которая может принять решение вас убить? Посадили ли бы вы в неё своего ребёнка? Можно ли будет купить такой автомобиль дороже, но чтобы он в первую очередь пытался спасти пассажира?
Какие моральные ценности необходимо заложить в искусственный интеллект?
В будущем мир вполне может оказаться заселён роботами, которые не отличают добро от зла, а справедливость от несправедливости. Чтобы избежать проблем, можно заложить в них моральные ценности. Но это невероятно сложно, потому что ценности эти должны выбрать люди.
Каким ценностям отдать предпочтение? Кто за это должен отвечать? Должна ли каждая страна согласиться на определённый набор ценностей? И можно ли позволять искусственному интеллекту самому менять своё мнение?