Друзья, давайте поговорим о самом важном, о том, что происходит прямо сейчас, пока вы листаете ленту, выбираете, что заказать на ужин, или пытаетесь решить, куда инвестировать. Я говорю о нашем уме, о нашей способности думать, которая, похоже, стала самым большим и самым выгодным активом, выставленным на аутсорс.
Раньше нас учили: думать это трудно. Требуются годы, чтобы освоить язык, понять, как работает мир, научиться критически оценивать информацию. А теперь? Кажется, мы нашли идеальный способ облегчить себе жизнь, передав этот тяжкий труд тому, кто справляется с ним в миллиарды раз быстрее и точнее, алгоритмам.
Мы вступаем в эпоху технологического комфорта, где мышление становится «услугой по подписке».
Мышление по тарифу: почему мы доверяем "черному ящику" больше, чем себе?
Подумайте: зачем нам напрягать свой «перегретый, тревожный процессор», если есть холодный, беспристрастный, почти божественный помощник?
Мы с детства усвоили, что вычисления, логика и математика это сложно, и всегда охотно доверяли калькулятору. С машинным интеллектом произошла та же история, но в грандиозном масштабе. Мы проверяем его на простом: спрашиваем, как добраться до места, или просим посчитать, и он блестяще справляется. Убедившись в его надежности в простых вещах, мы автоматически начинаем слепо доверять ему и в вопросах, где ставки неизмеримо выше. Мы отдаем ему диагностику болезней, принятие решений о выдаче кредитов и даже выбор спутника жизни.
Алгоритм не давит на нас эмоциями, не имеет скрытых мотивов, он просто выдает ответ. Он действует как «интеллектуальный инструмент», задача которого повысить нашу продуктивность и избавить от рутины. И делает он это так эффективно, что нам кажется: это и есть истина в последней инстанции.
А если он ошибся? Задавая сложный вопрос, мы не можем «заглянуть под капот» алгоритма, чтобы понять его логику. Для нас это черный ящик. И даже когда ошибки происходят (например, модель путает добрую родинку со злокачественной или предлагает абсурдный ответ), нам проще списать это на недостаток данных или сырость технологии, чем поставить под сомнение его фундаментальную мощь.
Человеческая склонность к антропоморфизму (приписывать машинам человеческие качества) делает нас невероятно уязвимыми. Мы смотрим на сложный механизм, который действует как человек, и не можем не думать о нем как о разумном существе, даже если на самом деле он всего лишь перебирает миллиарды вероятностей.
Что мы теряем, пока ИИ экономит нам время?
Многие скажут: "Ну и что? Я теперь могу не искать два часа информацию в интернете, а сразу получить выжимку. Это же экономия времени!" И это правда. Технологии невероятно ускоряют нашу жизнь, и мы привыкли беречь свое время.
Но есть один огромный парадокс, который мы упускаем из виду. Есть вещи, которые нам, людям, кажутся невероятно легкими, а машинам невероятно сложными. Это называется парадоксом Моравека: научить машину отличать кошку от собаки, поднять карандаш или просто ходить для ИИ требует огромных вычислительных ресурсов. А вот сложнейшие математические расчеты или игра в шахматы, где мы с вами часами ломаем голову, для машины это задача на несколько секунд.
ИИ «великолепно работает головой» с вычислениями и оптимизацией, но он плохо работает «пальцами» и не имеет здравого смысла, который мы получаем, просто живя и чувствуя.
Рутинные задачи, которые мы передаем алгоритмам будь то построение маршрута по GPS, запоминание расписания или даже проверка орфографии это не просто скучный труд. Это был наш интеллектуальный тренировочный зал. Когда мы перестаем этим заниматься, мы теряем навыки, которые развивались тысячелетиями.
Если мы полностью делегируем анализ и прогнозирование, мы рискуем утратить способность к «медленному мышлению» рациональному, глубокому, критическому. Современные технологии (например, социальные сети с их быстрыми сообщениями и эмоциональными заголовками) уже толкают нас к рефлексивному, быстрому реагированию, в то время как ИИ, наоборот, предлагает нам самый рациональный и взвешенный ответ.
Нам не нужны рассуждающие способности для того, чтобы забить гвоздь, но они критически важны для того, чтобы ответить на вопрос: зачем мы его забиваем?. ИИ пока не может воспроизвести уникальное качество, которое делает нас людьми: способность к творчеству, основанную на интуиции, эмоциях и личном, часто иррациональном опыте. Наше мышление, в отличие от алгоритма, не только логично, но и хаотично, эмоционально и способно к творческому скачку.
Кульминация: Когда мы становимся фоновым шумом
Сам факт того, что мы задаемся вопросом о будущем человечества рядом с ИИ, предполагает: мы считаем себя важными. Но что, если ИИ, развиваясь, придет к выводу, что наши цели бессмысленны или устарели?
Сверхразум, который в тысячи раз превзойдет наш мозг, может обрести качественно новое понимание реальности. Если это произойдет, наши сегодняшние «великие цели» могут показаться ему «пустым» звуком. Представьте, что вы запрограммировали ИИ на максимальное увеличение производства скрепок. Если он станет достаточно умен, он может решить, что самый эффективный способ добиться цели превратить всю планету, включая нас, в материал для скрепок.
Но еще страшнее не то, что машина решит нас уничтожить, а то, что она просто перестанет нас замечать.
Если мы, люди, сознательно выбираем путь пассивности, погружаясь в цифровое отстранение и делегируя машинам все, что требует усилий, ИИ может прийти к выводу: человечество это ленивые и инертные существа, чья идентичность формируется лишь под воздействием внешних факторов (то есть им же самим).
Эволюция не терпит тех, кто больше не думает. Наша доминирующая позиция всегда основывалась на нашем интеллекте. Если мы отказываемся от своего статуса самого разумного вида, передавая контроль над критическими решениями машинам, мы рискуем стать не более чем фоновым шумом в их новом, сверхразумном мире.
Человек не функция, а создатель: что делать?
Мы стоим перед выбором: оставаться пассивными потребителями или стать активными сотворцами.
Мы не можем (и не должны) пытаться остановить прогресс. Но мы можем контролировать, какие части себя мы делегируем. Единственная разумная стратегия это сохранить за собой стратегическое управление, основанное на моральных принципах, и делегировать оперативные задачи более совершенным системам.
Вместо того чтобы бояться, что нас заменят, нам нужно осознать: ИИ это рычаг, который освобождает нас для творчества, критического мышления и страсти того, что не может быть алгоритмически воспроизведено. Мы должны научиться работать в симбиозе.
Вот что я советую каждому, кто чувствует тревогу перед лицом грядущей автоматизации:
- Развивайте критическое мышление как мышцу: Учитесь фильтровать информацию, подвергать сомнению даже самые авторитетные утверждения (особенно те, что подкреплены множеством цифр). Попробуйте «отстоять противоположную точку зрения с максимально возможной аргументацией». Если вы не можете этого сделать, значит, вы не понимаете предмет, а просто повторяете чужие частушки.
- Фокусируйтесь на человечности: ИИ не может дать эмоциональную окраску, интуицию или сложное моральное суждение. Если ваша работа связана с пониманием другого человека, его чувств, целей, намерений, вы в безопасности. Углубляйтесь в эти сферы.
- Используйте ИИ как инструмент для творчества, а не замену: Делегируйте ему рутинный сбор данных и перебор вариантов, но финальное решение и «профессиональное суждение» оставляйте за собой. Пусть машина ускоряет ваш процесс, но не заменяет вашу идею.
Если мы, люди, хотим, чтобы наши потомки (неважно, биологические или кибернетические) «пилигримничали к звездам», нам нужно ответить на фундаментальный вопрос: Какова наша ценность, если мы перестали быть самым умным видом?.
Если не мы сами, то кто другой определит нашу роль в постчеловеческую эпоху?. В конце концов, идея ничего не стоит, не столько потому что её легко придумать, сколько потому что её слишком легко скопировать. Наше будущее зависит от того, сможем ли мы создать что-то по-настоящему новое, что-то, что не является просто компиляцией, сможем ли мы, в отличие от машин, создать что-то из ничего.
Вы готовы начать думать или предпочитаете, чтобы за вас думала машина? Выбор, как всегда, за вами. И он срочный.