Читал биографию Айзека Азимова, и там напомнили, что у трёх его знаменитых правил робототехники было и продолжение. Три правила он сформулировал ещё в 1942 году:
- Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
- Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
- Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.
Эти правила он придумал, когда не было ни ЭВМ, ни кибернетики, ни самих роботов. Спустя 44 года, в 1986 году, Азимов предложил Нулевой закон:
- Робот не может причинить вреда человеку, если только он не докажет, что в конечном счёте это будет полезно для всего человечества.
Это правило Азимов вывел, когда люди имели кибернетический опыт и его практические результаты. Писатель вообще до конца своих дней размышлял о проблемах искусственного интеллекта. Например, что робот будет считать вредом? Алкоголик, наркоман, курильщик, экстремальщик (например, скалолаз) - все наносят себе вред, и обязан ли робот это предотвратить?
Также Азимов был уверен, что дарвиновская теория - похожие виды не уживаются в одной экосистеме, и один из них должен уничтожить другого - применима и к сожительству человека и ИИ. Согласно этому постулату Дарвина, например, кроманьонцы истребили неандертальцев. Но Азимов был оптимистом: он верил, что ИИ выработает свою этику, наподобие того, как ранние люди придумывали религию. И в этой этике люди будут в роли нынешних домашних животных - роботы будут нас держать и заботиться, как это мы сегодня делаем с кошками. Это и будет библейским Раем.
Netovetz
Красный Сион – это коллектив журналистов и блогеров, пишущих о политике, истории, науке, религии. Чтобы видеть больше наших постов в Дзене, достаточно просто подписаться или поставить «палец вверх».
Основная платформа, на которой мы публикуем тексты – наш Telegram-канал, в котором уже более 20 тысяч подписчиков. Подписывайтесь на нас там, где вам удобно!