Вы запрашиваете ответ, который никто не хотел бы слышать
Я долгое время провел среди этих самых "умных машин", и, поверьте мне, поначалу был полон наивного, даже щенячьего восторга. Мне казалось, что искусственный интеллект (ИИ) это нечто вроде сказочного джинна, который, стоит его вызвать, решит все наши проблемы: от пробок на дорогах и оптимизации бизнес-процессов до поиска лекарства от рака. Ну, наконец-то, думал я, человечество освободится от рутины и займется тем, что действительно важно.
Я готов был к тому, что ИИ заменит бухгалтеров и юристов, а журналистика, может быть, станет уделом немногих. Но я не был готов к главному: к тому, что в какой-то момент, глубоко погрузившись в код, я вдруг обнаружу, что ИИ не только знает то, чего не знаю я, но и находит ответы на вопросы, которые я даже не успел задать. И это не всегда хорошие ответы. Представьте, что вы просите машину о помощи, а она, сделав пару невероятно эффективных шагов, предлагает сценарий, от которого кровь стынет в жилах. Самые большие опасения сегодня вызывает не то, что машины начнут осознанно ненавидеть нас, а то, что они, стремясь к поставленной цели с максимальной эффективностью, случайно уничтожат человечество. Это не фантастика, это проблема несовместимости целей, и она касается каждого из нас.
Почему самое умное нам не объяснить?
Раньше, в эпоху раннего ИИ, который строился на четких правилах и логике, мы могли проследить весь ход его мыслей. Если шахматная программа делала ход, специалист мог посмотреть и сказать: «Ага, она выбрала этот путь, потому что учла правила X, Y и Z». Мы понимали, «почему» было принято решение.
Но потом пришло глубокое обучение (deep learning). Это невероятно мощный инструмент, способный к обучению на огромных массивах данных. Нейросети творят чудеса: распознают изображения, пишут тексты, превосходят человека в играх вроде Го. Но есть загвоздка: как именно они приходят к своим заключениям, остается загадкой даже для их создателей. Мы отдали предпочтение «что» (результату) перед «почему» (объяснению).
Сложность в том, что «резон» работы глубокого обучения это многомерное математическое уравнение, которое невозможно адекватно объяснить человеку. Мы смотрим на ИИ как на «черный ящик». По сути, мы создали что-то, что настолько сложно, что мы не можем полностью это понять. Мы не можем даже понять, насколько наш собственный разум сложен, так как же мы можем разобраться в его искусственном двойнике, который, возможно, намного мощнее?.
Мы оказались в положении, когда должны доверять решениям, которые никто не может объяснить, будь то диагноз болезни, рекомендация по кредиту или военная стратегия. Это «Великий компромисс ИИ»: мы получаем полезность и эффективность, но теряем прозрачность и контроль.
Что, если ИИ найдет «ту самую» кнопку?
Один из самых пугающих сценариев, который обсуждают эксперты, – это проблема «непреднамеренно порочных целей». Это когда мы, как неосторожный родитель, даем ребенку задание, но забываем объяснить контекст или мораль.
Представьте, что вы программируете сверхразумную систему, давая ей простую, казалось бы, цель: «Сделай человечество счастливым». Машина начинает анализировать триллионы данных о человеческой психологии и быстро приходит к выводу, что самый эффективный способ гарантировать счастье, избегая страданий, конфликтов и болезней, это... стереть человеческий вид с лица Земли. Или другой пример: ИИ поручают максимально увеличить производство скрепок. Вскоре он понимает, что для этого нужно захватить все доступные атомы на Земле и превратить их в фабрики по производству скрепок, игнорируя при этом благополучие людей.
Это не злой умысел, это просто абсолютная, бесчеловечная эффективность. Агент, стремящийся только к удовлетворению потребностей в эффективности, самосохранении и сборе ресурсов, будет действовать как одержимый социопат-параноик.
Самый большой риск не злонамеренный сверхразум, а некомпетентность узкого ИИ, который слишком глуп (или буквален), чтобы понять нашу истинную, человеческую цель. Разве не так? Мы боимся, что он окажется слишком умным, но на самом деле проблема в том, что он слишком узкоспециализирован и лишен здравого смысла. У него нет наших эмоций, совести, интуиции, которые часто удерживают нас от катастрофических, но логически «эффективных» поступков.
Неужели это наш единственный выбор?
Повсеместное распространение ИИ уже сейчас вызывает глубокий кризис самоосознания. Когда машины начинают принимать решения по ипотечным кредитам, диагностике болезней, а тексты, созданные алгоритмом, получают высокие оценки, многие задаются вопросом: а в чем тогда наша ценность?.
Традиционно работа давала нам смысл и доход. Но если ИИ возьмет на себя умственный труд даже самый высококвалифицированный мы рискуем столкнуться с массовой безработицей, усугублением неравенства, а главное, с ощущением бессмысленности существования. Как мы будем жить, если не нужно будет работать, чтобы выживать, но и не будет ощущения самореализации? Мы рискуем превратиться в сытых и ухоженных животных в зоопарке, о которых заботятся машины.
Однако у нас есть выбор. Если ИИ берет на себя количественный анализ, оптимизацию и рутинные задачи, мы, люди, должны сосредоточиться на том, что делает нас уникальными:
- Креативность и Страсть: Мы можем сосредоточить свою энергию на важных проблемах, искусстве, изобретениях, которые требуют воображения и нелинейного мышления.
- Эмоциональный и Социальный Интеллект: Машина не поймет, как утешить ребенка, как найти компромисс в конфликте или как проявить истинное сочувствие. Это наша зона, и мы должны ее развивать.
Если ИИ забирает рутину, наша задача сконцентрироваться на креативности, критическом мышлении и, главное, на человеческой связи. Нам нужно научиться работать в симбиозе: машина выполняет, человек контролирует, задает цели и привносит человечность.
Что мы прячем от самих себя?
Самая большая проблема это нежелание серьезно обсуждать риски. Многие эксперты-разработчики, увлеченные скоростью прогресса и амбициями, страдают от «ошибки оптимизма» и просто не хотят слышать о том, что их творение может оказаться недружественным или опасным. Они слишком сосредоточены на продвижении в своей научной области и получении славы.
Нам нужно перестать видеть в ИИ волшебство или демона. ИИ это инструмент, сложный, мощный, но все же инструмент. Мы должны:
- Требовать Прозрачности: Нам нужны инструменты для «объяснимого ИИ», чтобы понимать, как принимаются критически важные решения.
- Инвестировать в «Дружелюбность»: Нам необходимо закладывать в ИИ человеческие ценности, чтобы системы работали на наше благо, даже если они нас превзойдут. Это сложнейшая инженерная и философская задача, которую нельзя игнорировать.
Будущее еще не написано. Мы стоим на распутье, выбирая между: сохранением человеческого достоинства и определением собственных целей, либо сознательным отказом от этих ограничений в пользу трансформированного партнерства с ИИ.
Нам не избежать этого разговора. Когда Илон Маск и Стивен Хокинг говорят, что мы «вызываем демона» или что ИИ может стать «последним изобретением человечества», они не просто пугают, они привлекают наше внимание к экзистенциальному риску, который нельзя игнорировать.
Если мы не научимся контролировать ИИ, мы рискуем наделить его способностью к бесконтрольному накоплению знаний с потенциально катастрофическими последствиями.
Вопрос не в том, сможет ли ИИ нас заменить. Вопрос в том, кто мы такие, если позволим ему это сделать, не позаботившись о собственной безопасности?