112 подписчиков
Структуры мозга матери сильнее активируются при выигрыше (положительном подкреплении) ее ребенка, чем при собственном выигрыше или благотворительном акте, направленном на чужого человека
На кафедре психофизиологии психфака МГУ дописывается статья по завершенному проекту по изучению мозговых механизмов "чистого" (основанного на эмпатической заботе и сострадании, а не на взаимовыгодном расчете) альтруизма, и думают над дальнейшими шагами, особенно в области прикладной психофизиологии и искусственного интеллекта
Изучение мозговых механизмов материнского альтруизма является хорошим вариантом (см. замечательные работы ведущей исследовательницы в области психофизиологии альтруизма Эбигейл Марш)
В прикладном аспекте, в буддийской традиции при тренинге универсального альтруистического сострадания ("compassion") сначала участника просят актуализировать доступное чувство любви к собственному родному ребенку, а потом градуально генерализуют эту установку на чужих детей, чужих взрослых людей и вообще всех живых существ
Т.к. альтруистическая материнская любовь к родному ребенку однозначно является врождённым безусловным рефлексом (эволюционно отточенным в миллионах поколений и жёстко "прошитым" в мозге), то тут мы наблюдаем процедуру генерализации, когда на базе мощного безусловного рефлекса формируется условный рефлекс, и теперь врождённую реакцию альтруистической любви начинает вызывать уже не только генетически детерминированный безусловный стимул ("родной ребенок"), а и условные стимулы в виде чужих детей, чужих взрослых людей и вообще всех живых существ
И второй интересный сюжет – это искусственный интеллект
Недавно Илья Суцкевер из OpenAI, который пытается обезопасить людей от будущего сверхинтеллекта ("superalignment"), сказал, что надо будет сделать так, чтобы сверхинтеллект относился к людям, как люди относятся к своим родным детям
("But he has an exemplar in mind for the safeguards he wants to design: a machine that looks upon people the way parents look on their children
“In my opinion, this is the gold standard,” he says
“It is a generally true statement that people really care about children”)
Фактически, надо будет сделать "реверс-инжиниринг" с мозговых механизмов безусловной сострадательной и альтруистической материнской любви к родному ребенку и вставить полученный нейросетевой алгоритм настолько глубоко в архитектуру будущего сверхинтеллекта, насколько мы сможем
Вообще, Юдковский (в отличие от явно "тормозящего" Суцкевера) давно уже понял, что это совсем не гарантия, и сверхинтеллект потенциально явно сможет убрать из своего "биоса" все, что мы туда изначально заложим (т.к. он будет рекурсивно самоулучшаться и изменять сам себя на всех уровнях)
Так что шансы небольшие, но в условиях необратимого движения к сверхинтеллекту (которое нельзя остановить из-за конкуренции между корпорациями и между государствами) мы должны использовать все возможности, чтобы хоть как-то повысить вероятность благоприятного для нас исхода, и указанный психофизиологический путь "реверс-инжиниринга" с мозговых механизмов безусловной сострадательной и альтруистической материнской любви к родному ребенку тоже должен быть использован как шанс
2 минуты
14 ноября 2023