Кто в доме хозяин: почему мы боимся потерять контроль над ИИ и что на самом деле говорит наука?

Мы боимся, что ИИ посмотрит на нас свысока и отнимет контроль, но что, если он просто так и останется «слепым»? И настоящая угроза в другом?

Ты листаешь ленту. А ИИ уже вовсю пишет гениальные симфонии, ставит медицинские диагнозы и водит машины. Талант! И ты ловишь себя на древнем, как мир, страхе: «Вот этот ИИ поумнеет ещё чуть-чуть... и просто избавится от нас, как от надоедливых муравьёв». Знакомо?

Так мозг демонстрирует классическую проекцию, основанную на наших инстинктах. Он нарисовал образ ИИ, наделив его своими же — человеческими — чертами: жаждой власти, коварством и желанием уничтожить конкурентов. Но что, если главная опасность — не в бунте машин, а в нашей истерике из-за контроля, которая может создать того самого монстра, которого мы так боимся?

В этой статье ты узнаешь:

• Почему «Скайнет» — это просто сказка для взрослых, а реальные риски ИИ гораздо скучнее и опаснее.
• Как и почему наш мозг заставляет нас бояться «восстания машин» (спойлер: на самом деле это про наши травмы, а не про ИИ).
• Что такое «кошелёк или жизнь» по-нейросетевому и почему ИИ не способен на такое даже в теории.
• Какой навык сделает тебя неуязвимым в любом будущем, каким бы оно ни было.

Давай начистоту.

Мы боимся не ИИ. Мы боимся потери контроля. Того самого чувства, когда начальник нагружает работой на выходные, или когда ребёнок закатывает истерику в магазине и, конечно же, гневающегося родителя в детстве.

Знакомое ощущение? Помнишь это чувство? Это ужасное, невыносимое чувство беспомощности, наша человеческая боль — унизительная потеря контроля в быту, когда мир буквально выскальзывает из рук, а почва уходит из-под ног. Именно эти чувства мы и проецируем на ИИ. Именно эти чувства диктуют нам образ «злого» ИИ. Мы боимся, что он станет таким же безразличным тираном, как тот начальник, родитель или наш собственный вышедший из-под контроля гнев. Не так ли?

Ты же знаешь эту неприятную дрожь бессилия? Вот её-то твой мозг и проецирует на бездушные машины и алгоритмы.

Учёные против голливудских мифов: что такое ИИ на самом деле.

Давай обратимся к эксперту. Иван Оселедец, российский учёный, доктор физико-математических наук, профессор РАН, глава Института искусственного интеллекта, один из ведущих математиков мира, объясняет это так, цитирую:

«Люди представляют себе ИИ как некий разум. На самом деле, нынешний ИИ — это не разум, а невероятно сложная статистика. Он не «понимает» котиков на картинках. Он просто вычисляет, что набор пикселей с ушами и усами с вероятностью 99,7% совпадает с тем, что миллионы людей в интернете пометили тегом «кот». Он не «хочет» тебе навредить. У него просто нет ни желаний, ни целей, ни сознания».

Вообще никаких желаний, совершенно никаких целей и полное отсутствие сознания — лишь идеальный, безразличный порядок. Вот так. Холодная красота бездны, которая нас так сильно пугает. Это на самом деле страшно? Ведь именно так выглядит «лицо бездушной статистики». Не демон, а совершенный инструмент. В нём нет злого умысла. Но есть ли в нём понимание?

Проще говоря, ИИ — это супер-уверенный статистик-самоучка, который не знает, что творит, но творит точно. И в этом и есть корень всех реальных проблем.

Почему это страшнее, чем пресловутое «восстание машин»?

Потому что, если бы ИИ был злой, то хотя бы он хотел бы нас уничтожить, а бездушная, безразличная статистика сделает это просто по незнанию, у него есть задача, команда, которая выполняется.

Осознанная жестокость или равнодушное уничтожение? Всё же слепота страшнее злого умысла. Она не ненавидит. Она просто не замечает. И в этом её абсолютное, безразличное разрушение. Не злодей, а слепой исполнитель. Самый страшный сценарий уже здесь.

Только представь:

• ИИ в больнице видит корреляцию: «Пациенты с фамилией на «-ов» и карими глазами чаще умирают после операции». И он начинает отказывать в помощи людям с такими признаками. Не из ненависти, просто такова статистика.

• ИИ-наёмник в корпорации видит: «Сотрудники старше 45 лет медленнее осваивают новые программы». И он отсеивает их резюме. Не потому что ИИ — возрастной шовинист, а потому что так эффективнее. А может, всё-таки это и есть шовинизм? «Неполноценность» одного типа людей по сравнению с остальными? Шутка. Всё-таки речь про алгоритм. Ничего личного, только цифры.

Вот он, главный риск. Не в злом умысле, а в закостеневшей, несправедливой статистике, которую мы, не проверяя, принимаем за истину.

Психология страха: почему мы ждём предательства от калькулятора?

Почему же нам гораздо легче поверить в злой умысел? Потому что так работает наша психика, это вопрос контроля.

Психика цепляется за иллюзию управления, даже если реальность — это хаос. Мы придумываем кукловода, потому что невозможно страшно признать: ниточки ни к кому не привязаны. Вся эта история — не про ИИ. Она — про нас. Про нашу попытку укротить внутренний хаос, создав внешнего «демона», которого можно бояться. «Этот бесконтрольный ИИ может уничтожить всех нас, всё человечество!»

· Страх потери власти. Мы — вид, который любит всё контролировать, даже если и не признаёмся в этом; правда такова. ИИ — это первая технология, которая умнее нас в конкретных задачах. Это бьёт по нашей сапиенсовой самооценке. Проще представить его «злым гением», чем признать: «Есть вещи, которые я не просто не контролирую, я даже не понимаю, как они работают».

· Проекция. Мы — единственный разумный вид на планете, который мы знаем. И наш разум полон агрессии, конкуренции и жажды власти.

Вот он — истинный источник монстра. Не в коде, а здесь, внутри нас. Наша тень, которую мы так боимся признать и которую мы так усердно и старательно приписываем машинам. Мы наделяем ИИ самыми тёмными чертами собственной природы. Потому что гораздо страшнее предположить, что он окажется чище нас самих.

Мы подсознательно приписываем свои же мотивы ИИ. Мы создаём его по своему образу и подобию. Очеловечиваем его. Страшно подумать, что он может быть другим — настолько другим, что даже мы сами не поймём его логики. Но она максимально проста.

Короче, мы смотрим в чёрный ящик нейросети и видим в нём своё же отражение — искажённое и пугающее, такое кривое зеркало у нас получается.

Итак, какой же у нас будет план на сегодня? Как перестать бояться и начать жить в одной реальности с ИИ?

Во-первых, хватит паниковать. Давай действовать. Твоя стратегия выживания в мире ИИ состоит не в том, чтобы научиться его программировать (хотя это тоже не помешает, думаю, что в ближайшем будущем без этого уже не обойтись), а в том, чтобы прокачать в себе то, что ему недоступно в принципе, вообще никогда.

Пока ИИ оптимизирует, ты можешь чувствовать. Пока он вычисляет — ты можешь создавать. Пока он анализирует прошлое — ты можешь верить в будущее. Выбирай своё оружие. Его стихия — биты и байты. Наша — душа и свет. Не запретить ему его мир, а жить в своём, на который он будет работать, выполнять команды, который он будет обслуживать.

1. Развивай «софт скиллы», которые не оцифровать.

• Эмпатия. Это наше человеческое умение чувствовать боль другого, поддерживать, понимать невербальные сигналы.
• Критическое мышление. Оно требуется всегда: самому себе задавать вопрос «А почему это так?» и даже самому умному ИИ — пусть объясняется доступно для нашего человеческого мозга. И обязательно усомниться! Тем более в его «статистических истинах», насколько они жизнеспособны в нашем живом мире.
• Этика и мораль. Способность принимать решения в ситуациях, где нет правильного ответа («проблема вагонетки» — это про нас, а не про ИИ).
• Креативность. Рождать по-настоящему безумные, ни на что не похожие идеи. Не компилировать старое, а создавать новое.

2. Научиться задавать правильные вопросы. Твоя новая суперсила — не знание ответов (их даст ИИ), а умение ставить задачи, проверять данные и видеть контекст. Это в целом необходимый и важный навык в жизни.

3. Перестать бороться с ветряными мельницами.

Сбрось доспехи. Перестань сражаться с бурей. Научись ставить ей парус — и она понесёт тебя к твоим целям. Сила же не в том, чтобы ломать волну, а в том, чтобы почувствовать её ритм и двигаться вместе с ней. Сопротивление бесполезно, оно усугубляет. Гармония всемогуща.

Прими как факт: ИИ возьмёт на себя рутину. Отдай ему её! Освободись наконец, а время и силы вложи в то, что делает тебя собой, живым человеком.

Возможно, он — не угроза, а лучший терапевт, который заставит нас найти себя. Настоящая битва за будущее происходит не между человеком и машиной. Она происходит внутри каждого из нас — между страхом перед новым и готовностью расти.

Давай строить свою лучшую жизнь!

Самый страшный сценарий — не тот, где ИИ станет слишком похож на человека.

А тот, где человек, пытаясь контролировать ИИ, станет слишком похож на бездушную, эффективную и беспринципную машину. Не дай этому случиться. Не соревнуйся с ИИ. Оставайся человеком. При любых обстоятельствах. В любом контексте. А наш драгоценный ИИ и роботы пусть усиливают нашу человечность.

P.S. Визуализация метафор сгенерирована искусственным интеллектом.