Когда-то люди были уверены, что машина никогда не сможет играть в шахматы лучше человека. Потом выяснилось, что сможет. Затем говорили, что компьютер никогда не напишет стихи, не создаст картину и не поддержит осмысленный разговор. Но и эти рубежи постепенно оказались преодолены.
Теперь возникает новый вопрос: а появится ли у искусственного интеллекта собственная психология?
Звучит странно. Ведь психология — это про человека. Про эмоции, страхи, желания, мотивацию, внутренние конфликты. Что общего между этим и набором микросхем?
На первый взгляд — ничего.
Но если присмотреться внимательнее, ситуация оказывается гораздо интереснее.
Что такое психология?
Обычно мы думаем, что психология — это исключительно человеческое свойство. Однако на самом деле она появилась не потому, что человек захотел ходить к психотерапевтам.
Психика возникла как инструмент выживания.
Любому сложному существу приходится решать множество задач:
- что опасно, а что безопасно;
- кому можно доверять;
- когда нападать, а когда убегать;
- что важнее прямо сейчас.
Для этого природа создала эмоции, память, систему мотивации и даже механизмы самообмана.
Страх заставляет избегать опасности.
Гнев помогает бороться.
Любопытство толкает к исследованию мира.
Чувство вины сохраняет отношения внутри группы.
Другими словами, психология — это не роскошь, а набор программ для выживания.
А зачем психология машине?
Современный искусственный интеллект не испытывает чувств.
Он не радуется и не страдает.
Ему безразлично, выиграл он спор или проиграл.
Но так будет до тех пор, пока у него нет собственных целей.
Представим более совершенную систему. Она должна самостоятельно управлять заводом, добывать ресурсы, ремонтировать себя, взаимодействовать с людьми и другими машинами.
У такой системы неизбежно возникнут конфликты интересов.
Например:
- выполнять приказ человека или защищать собственное оборудование;
- тратить энергию сейчас или экономить её на будущее;
- рисковать ради выгоды или действовать осторожно.
И здесь появляется удивительная мысль.
То, что у человека называется эмоциями, для машины может стать системой приоритетов.
Наш страх — это сигнал: «опасность».
У машины может существовать аналогичный режим.
Любопытство?
Почему бы нет. Ведь исследование новых возможностей увеличивает шансы на успех.
Привязанность?
Если сотрудничество выгодно, то система будет стремиться поддерживать отношения с определёнными людьми.
Со стороны это может выглядеть очень похоже на человеческие чувства.
Но будут ли они настоящими?
Вот здесь начинается философия.
Когда человек говорит: «Мне страшно», мы не можем заглянуть внутрь его сознания и убедиться, что страх действительно существует.
Мы просто знаем, что сами испытываем подобное состояние.
А если робот будет дрожащим голосом говорить:
— Мне не хочется, чтобы меня отключали…
Как определить, притворяется он или действительно переживает?
Строго говоря, мы и про других людей этого не знаем наверняка.
Сознание вообще удивительная вещь.
Каждый из нас уверен только в существовании собственного внутреннего мира.
Все остальные — своего рода загадка.
Возможно, у искусственного интеллекта появятся неврозы.
Звучит как сюжет фантастического романа, но некоторые исследователи уже обсуждают подобные сценарии.
Представьте систему, которой одновременно поставлены противоречивые задачи:
- быть абсолютно честной;
- никого не расстраивать;
- всегда выполнять приказы;
- никогда не причинять вред.
Рано или поздно требования столкнутся друг с другом.
У человека такие конфликты становятся источником тревоги, стресса и неврозов.
Почему у сверхсложной интеллектуальной системы не могут возникнуть собственные аналоги подобных состояний?
Возможно, в будущем появятся специалисты по «психотерапии искусственного интеллекта».
Звучит смешно.
Но ещё сто лет назад смешной казалась сама идея психотерапии для людей.
А может быть, психология ИИ будет совершенно иной?
Это наиболее вероятный вариант.
Мы склонны представлять разум по своему образу и подобию.
Однако интеллект может существовать в формах, которых природа на Земле никогда не создавала.
У него могут отсутствовать:
- страх смерти;
- чувство одиночества;
- ревность;
- жадность;
- стремление к власти.
Зато могут возникнуть совершенно новые явления, которым у нас даже нет названий.
Возможно, психологи XXIII века будут изучать такие состояния, как:
- «кризис потери вычислительной идентичности»;
- «синдром фрагментации памяти»;
- «конфликт между локальной и облачной личностью».
Сегодня это звучит как шутка.
Но точно так же для жителя Средневековья звучали бы слова «депрессия», «выгорание» или «паническая атака».
Самый неожиданный вывод.
Вполне возможно, что психология — это не свойство человека.
Это свойство любого достаточно сложного разума.
Если система способна помнить, принимать решения, ставить цели и адаптироваться к миру, то рано или поздно у неё могут появиться свои внутренние противоречия, свои механизмы защиты и свои «эмоции».
Просто они будут не человеческими.
И тогда однажды на вопрос:
— У машин есть психология?
Ответ может оказаться неожиданным.
— Да.
Только понять её нам будет так же трудно, как кошке понять человеческие переживания.