Сегодня, когда говорят о принципах взаимоотношений между будущим искусственным суперинтеллектом (ИС) и человечеством, как правило рассматривают два принципа - либо он дружественный, либо враждебный. На самом деле таких вариантов больше.
ВРАЖДЕБНЫЙ искусственный суперинтеллект.
Тут все ясно и понятно - появился суперинтеллект и всему человечеству пришел трындец. На эту тему уже много сказано и написано, поэтому не буду повторяться. Кому интересно, могу посоветовать почитать книги:
- «Сверхразум: пути, опасности, стратегии» Ника Бострома 2014
- «Совместимость с людьми: искусственный интеллект и проблема контроля» Стюарта Дж. Рассела 2019
- «Пропасть: риск для существования и будущее человечества» Тоби Орда 2020
НЕДРУЖЕСТВЕННЫЙ искусственный суперинтеллект.
По другому, этот вариант можно назвать «Игнор». Здесь нет ни вражды, ни дружбы, просто система движется куда-то к каким-то своим целям, а что там у нее под ногами - ей все равно. Это как человек идущий по лугу не смотрит, сколько и каких букашек он по дороге раздавил. При этом, если букашки вдруг начнут как-то протестовать и причинять неудобство, то вот тогда их начнут давить специально (см. сценарий «Недружественный»).
В этом разделе, я также хотел бы отметить свое несогласие с заокеанскими коллегами по поводу концепции «Василиск Роко».
Василиск Роко — мысленный эксперимент, согласно которому могущественный недоброжелательный искусственный интеллект, начнет наказывать тех, кто в прошлом знал о возможности его появления, но не способствовал его созданию.
Если он недоброжелательный, зачем ему сортировать людей на хороших и плохих? Мы же не сортируем тараканов, на хороших, которые успевают прятаться и плохих, которые бегают и портят нам эстетический вид? Так и тут, если ИС захочет нас мочить, то скопом и всех сразу одним флаконом.
НЕВРАЖДЕБНЫЙ искусственный суперинтеллект.
Отношения сильного к слабым. Мне это нужно, я это беру, остальных прошу отойти в сторону. Что ИС будет нужно, мы сейчас не знаем, может быть майнинговые фермы по всей Антарктиде, может быть озоновая дыра над Гималаями, может быть все банановые плантации - в этом варианте он этакий буддист, идущий все по тому же лугу, но внимательно смотрящий себе под ноги - кабы не раздавить ненароком кого заметного жучка - паучка. Ну а кто не спрятался - он не виноват.
ДРУЖЕСТВЕННЫ искусственный суперинтеллект.
В этом случае наступить праздник для всего человечестве - Царствие Облачного всеобщего благоденствия, о котором так долго говорили пророки и провидцы, свершился. Четыре всадника Апокалипсиса - голод, войны, болезни, смерть падут. ИС даст людям все необходимое для жизни, а не выживания. Чтобы исполнился этот сценарий, в людях должно быть что-то, что нужно искусственному суперинтеллекту.
Возможно, это эстетика общения с другим, пусть не таким развитым, но все же разумом. Мы же ценим и любим кошек, хотя никакой прикладной пользы в современных квартирах от них нет.
Может быть ему будет нужна способность некоторых людей поддерживать трансцендентальную связь с Богом планеты Земля. В любом случае, сегодня общее количество людей явно превосходит число, необходимое для создание ИС. При этом все это вписывается в вертикаль Снукса-Панова. А если люди так размножаются, значит это кому-нибудь нужно.
А что Вы думаете по этому поводу?