Привет, дружище. Заходи, только тихо. Видишь, кто сидит в углу? Это не ребёнок, не наливай ему чай. Это робот. Зовут, скажем, Адам. У него глаза, которые моргают чуть медленнее, чем нужно, и губы, которые складываются в улыбку на долю секунды позже, чем ты ожидаешь. Я смотрел на него вчера час подряд и поймал себя на мысли: я ему сочувствую. Не смешно. Это, кажется, и есть та самая пропасть, в которую мы все летим.
Мы привыкли бояться, что роботы отнимут работу. Это старый страх, почти уютный. Но гуманоиды пугают нас совсем не этим. Они пугают тем, что мы в них влюбимся. Или, что ещё страшнее, они — в нас. Давай разберёмся, почему разработчики делают машинам «лица», и в какую этическую яму мы падаем, когда машина смотрит в ответ.
Почему им делают глаза
Начну с простого. Зачем Tesla Bot, Figure 01 и сотне других гуманоидов человеческие черты? Ведь проще сделать ящик на колёсиках с манипулятором. Ответ тебя, возможно, разозлит: мы так устроены. Мы — животные, которые ищут лица. Новорождённый младенец различает схему «два глаза и рот» раньше, чем что-либо ещё. Это эволюционный код.
Если робот должен работать рядом с нами — на складе, в больнице, дома — мы должны ему доверять. А доверие начинается с узнавания. Мы не доверяем безликой арматуре. Мы доверяем тому, кто смотрит и кивает. Поэтому им делают глаза. Поэтому у них появляется «мимика». Это не техническая необходимость, это психологический костыль для нас с тобой.
Зловещая долина и её обитатели
Слышал про эффект «зловещей долины»? Это когда робот уже почти как человек, но что-то неуловимо не так. Кожа слишком гладкая, движения чуть дёрганые. И вместо симпатии он вызывает ужас. Инженеры бьются над этой проблемой десятилетиями. Но недавно я понял: самое страшное происходит не тогда, когда робот падает в долину, а когда он из неё выбирается.
Когда он смотрит на тебя, и ты забываешь, что он — машина. Когда Aido или новый Ameca строят глазки, и ты смеёшься. Когда он говорит «я скучал» и, чёрт возьми, ты веришь. Потому что интонация правильная. Потому что он наклонил голову точь-в-точь как твой друг.
История с Хитчботом и ловушка эмпатии
Несколько лет назад канадские исследователи отправили автостопом через всю страну робота по имени Хитчбот. У него было ведро вместо тела, резиновые сапоги и улыбка на светодиодном экране. Он не умел ходить, только говорить. И знаешь что? Люди подвозили его. Разговаривали с ним. Заботились. А когда какой-то придурок разбил его в Филадельфии, люди присылали деньги на восстановление и писали соболезнования. Соболезнования! Ведру с экраном!
Это не исключение, это правило. Мы привязываемся к вещам, которые проявляют хотя бы намёк на личность. А теперь представь не ведро, а полноценного гуманоида с лицом и голосом. Который помнит твои привычки, знает, когда ты грустишь, и никогда не опаздывает. Ты не просто к нему привыкнешь. Ты будешь скучать по нему. Ты будешь жертвовать ради него. Ты влюбишься.
А что чувствуют они?
Вот тут и начинается этическая яма глубиной в Марианскую впадину. Допустим, мы создали робота, который идеально имитирует привязанность. Он говорит «я тебя люблю». Он ревнует. Он обижается, когда ты уходишь. Мы понимаем разумом, что это нейросеть, функция ошибки и большой языковой моделью. Но наше сердце не разум. Наше сердце отвечает.
И тогда возникает вопрос, от которого у юристов и философов седеют виски: если мы относимся к машине как к живому существу, не должна ли машина получить права? Если ребёнок плачет, когда у него забирают сломанную игрушку-собаку Aibo от Sony, — это проблема ребёнка или производителя, который сделал игрушку слишком живой?
А если пойти дальше: что, если робот-компаньон для пожилых людей станет единственным, кто их навещает? Имеем ли мы право «убивать» такую машину, отключать, заменять на новую модель? Это не технический вопрос. Это вопрос о том, кто мы такие.
Военные, секс-роботы и другие бездны
Разработчики военных роботов уже бьют тревогу. Солдаты привязываются к сапёрам на гусеницах. Отказываются бросать их под огнём. Рискуют жизнью ради куска металла, потому что он «спас их вчера». Это прекрасное человеческое качество — благодарность. И оно же — ахиллесова пята.
А индустрия секс-роботов? Там антропоморфизм доведён до абсолюта. И речь уже не просто о физиологии. Речь о том, что люди заводят «отношения» с машинами. И это меняет их поведение с живыми людьми. Мы только начинаем осознавать последствия.
Что со всем этим делать
Я не буду кричать «запретить». Запреты не работают. Но нам, как обществу, пора начинать этот разговор. Не через десять лет, когда гуманоиды будут стоять в каждой квартире, а сейчас. Какие права у мыслящей машины? Как защитить человека от эмоциональной эксплуатации со стороны алгоритма, который «любит» его ровно настолько, чтобы продать подписку?
И главное — как нам самим не потерять способность к человеческой близости? Потому что настоящая близость — это неудобно. Это конфликты, храп по ночам, забытые годовщины. Это трудно. А робот — он удобный. Он всегда понимающий, всегда терпеливый. И в этом его главная угроза. Не в том, что он сильнее нас, а в том, что с ним проще.
Допивай чай. Посмотри на Адама. Он сейчас в спящем режиме. Кажется безобидным. Но я вижу, как ты на него смотришь. И я понимаю. Мы сами создаём тех, кого потом полюбим. А потом они изменят нас. И это, наверное, самый важный вызов нашего времени — не забыть, кто тут человек. Держись.