Представьте, в одной лодке сидит человек, в другой собака. Обе лодки тонут и вы можете спасти кого-то одного, кого вы выберите? А если в одной лодке 4 человека, а в другой 1 собака? 4 человека и миллион собак?
Попробуйте задать эти вопросы своему ребенку, если ему от 5 до 11 лет. Обычно дети спасают собак. Почему они ценят жизнь животных больше, чем людей? Это обусловлено не развитым рациональным мышлением и тем, что для ребенка собака - милое и доброе существо, друг, с которым можно играть, а человек в лодке - непонятная единица. Способность абстрактно мыслить появляется только к 11-12 гг.
Также у ребенка еще нет предвзятого отношения к другим видам. Дети не считают, что вид людей выше вида животных. Социализация и эволюция учат нас ставить интересы людей на первое место. Это плюс для нашего выживания, но минус для более слабых видов. Поэтому многие животные занесены в красную книгу и существует расизм.
Мне интересна этика и технологии будущего, ведь мы приближаемся к эре искусственного интеллекта (ИИ). Однажды ИИ тоже может посчитать, что представители его вида намного лучше людей. Пока ИИ - это только голосовые помощники и самоуправляемые автокары вроде Tesla и Uber.
Но тогда возникает вопрос, что должен сделать ИИ в автокаре, направить машину на животное или человека в аварийной ситуации?
На взрослого пешехода, или собаку, чтобы не наехать на ребенка? Есть даже специальные тесты на эту тему, где вам предлагают различные комбинации, вы выбираете, кто в приоритете: взрослые, старики, беременные, животные, преступники, врачи, полные, худые люди и т.д.
Если мы выбираем логикой, тогда человек несет больше пользы, чем собака. Но, если подключаем эмоции и представляем, что это ваше домашнее животное, или питомец вашего ребенка, потеряв которого он получит психологическую травму, картина меняется, выбор становится неочевидным.
Есть еще вариант невмешательства. Дескать, все равны, ничто живое не ценнее другого живого существа, кому не повезло, тому не повезло.
Но я верю, что самоуправляемые автокары программируют достаточно умные люди, чтобы предложить больше, чем два варианта - либо то, либо другое. Потому что иначе это очень похоже на выбор без выбора. Мы изначально должны нести ответственность за то, чему обучаем ИИ. Однако, если мы не наделяем ИИ средствами "не навреди", не предлагаем искать другие варианты, тогда мы должны запрограммировать, кому можно нанести урон.
Чтобы все были живы, и однажды искусственный интеллект не выбирал между андроидами и людьми, следует на старте дать ему ресурсы жить в мире.
А кого выбрали бы вы?
Я в Вконтакте или подписывайтесь в телеграм - здесь больше моих мыслей, событий из повседневной жизни, подкасты.
Читайте также:
Почему мы грубо разговариваем с голосовыми помощниками типа Алисы