Философ Свен Нюхольм о возвращении достижений из-под контроля машин.
Автор Шай Тубали
Свен Нюхольм уже видит тревожные признаки среди своих студентов. Будучи профессором этики искусственного интеллекта в Мюнхенском университете имени Людвига Максимилиана, он заметил, что многие не хотят вникать в сложные тексты, когда краткое изложение ИИ находится всего в нескольких секундах. «ИИ создан для того, чтобы люди не думали», — говорит он Big Think. «Но зачем изучать философию в университете, если вы не хотите думать — если вы не хотите оттачивать свои критические способности — и вместо этого передаете их бездумной программе ИИ?» В такие моменты, признает он, и учеба его студентов, и его собственная роль преподавателя кажутся менее значимыми.
Нюхольм годами размышлял о том, куда все это может привести. Будучи одним из первых философов, изучавших, как ИИ пересекается со смыслом человеческой жизни, он внимательно изучает язык, который крупные технологические компании используют для описания своих целей в области ИИ. Когда такие компании, как OpenAI или Google DeepMind, заявляют, что стремятся к тому, чтобы их продукты на основе ИИ «приносили пользу», «преобразовывали» или «улучшали» жизнь людей, какое представление о благе подразумевается? Что требуется взамен?
Для Нюхольма более глубокий вопрос звучит так: может ли ИИ улучшить нашу жизнь самым важным образом — углубляя смысл — или же он может уменьшить смысл способами, которые остаются в значительной степени неизученными?
«Я не думаю, что можно сказать, что ИИ хорош или плох для смысла», — говорит Нюхольм. Он исходит из базового наблюдения: смысл — это сложная идея, и нам сначала нужно четко понимать, что мы имеем в виду, когда говорим о нем. Если бы смысл был полностью субъективным, то все, что кажется кому-то значимым, просто считалось бы значимым, и на этом обсуждение закончилось бы.
Чтобы серьезно отнестись к этому вопросу, смысл должен быть связан с критериями или практиками, которые можно взвесить и сравнить. Можно с уверенностью сказать, что некоторые способы действия, творчества или взаимодействия несут в себе больше смысла, чем другие. Отсюда следует еще одно понимание. Смысл жизни — это не единое достижение, которое решает всё раз и навсегда: он распространяется на разные масштабы и моменты. «Дело не в том, что есть только одна вещь, имеющая смысл, и если вы её делаете, ваша жизнь имеет смысл, а если нет, ваша жизнь бессмысленна», — говорит Нюхольм. Мы можем задаться вопросом, является ли чтение подобной статьи осмысленным способом провести день, имеет ли смысл неделя, имеют ли смысл отношения с родителями, и как всё это влияет на смысл жизни в целом.
Как же тогда мы оцениваем смысл? Философия, как отмечает Свен Нюхольм, разработала богатый набор критериев. Одна из хорошо известных теорий связывает смысл жизни с добром, истиной и красотой. Согласно этой теории, осмысленная жизнь — это жизнь, сформированная совершением добра, поиском истины и способностью наслаждаться и ценить красоту во всех её проявлениях. Смысл также исследовался посредством того, что Нюхольм описывает как «развитие лучших сторон человеческой натуры, одновременно с обучением достойному и бережному отношению к ее менее привлекательным аспектам».
Другие точки зрения видят смысл в том, чтобы быть частью чего-то большего, чем ты сам. Это может включать в себя жизнь, выходящую за рамки личных интересов, вклад в благо других, формирование глубоких отношений и принадлежность к сообществу. Эти элементы часто объединяются вокруг идей цели, вклада и достижений. Вспомните долгосрочные проекты, которые позволяют прогрессировать с течением времени, развивать навыки и участвовать в сообществах сверстников, которые признают усилия и достижения друг друга.
Только когда мы поймем, что считается осмысленной деятельностью, центральный вопрос сможет обрести более четкую форму: усиливает ли ИИ эти области или подрывает их? Нюхольм точно проводит это различие. «Если ИИ берет на себя осмысленные вещи и оставляет нам только те виды деятельности и вещи, которые мы считаем бессмысленными, — утверждает он, — то, конечно, ИИ по определению представляет угрозу осмысленности. В то время как если ИИ может взять на себя бессмысленные вещи, оставив нам осмысленные виды деятельности и вещи, то ИИ усиливает смысл». Таким образом, все зависит от того, какие задачи передаются, несут ли эти задачи для нас смысл и остались ли другие формы деятельности для участия человека.
Именно здесь почва становится нестабильной. Наши привычные представления о благополучной жизни и добродетельных поступках сформировались задолго до того, как ИИ начал расширять границы человеческой жизни. Они предполагают возможности для внесения вклада, для совершения добрых дел, для достижения целей и для проявления человеческой изобретательности. Эти предположения могут больше не соответствовать миру, который сейчас разворачивается. Даже сегодня, отмечает Нюхольм, генеративный ИИ создает разрыв в смысле: деятельность, которая когда-то воспринималась как осмысленная, передается на аутсорсинг, а ничего эквивалентного ей не приходит на смену.
Будущее (бессмысленной) работы
Нюхольм придает «разрывному» характеру генеративного ИИ конкретное лицо в своей ясной и всеобъемлющей книге «Этика искусственного интеллекта: философское введение». Он возвращает нас к широко обсуждаемому моменту 2016 года, когда компьютерная программа AlphaGo, обученная на миллионах игр против самой себя, победила чемпиона мира по го Ли Седоля в четырех из пяти матчей. Эту историю обычно рассказывают либо как технологический перелом, либо как падение человека, что подтверждается более поздним признанием Ли Седоля о том, что игра в го потеряла для него смысл. Нюхольм, однако, смотрит в другое русло.
Он обращает внимание на второстепенную, но незаменимую фигуру: сотрудника Google DeepMind, сидящего рядом с доской и вручную расставляющего камни для машины без рук. Этот человек не понимал стратегий AlphaGo. Ему не нужно было быть опытным игроком в го, и, возможно, он даже не до конца понимал правила игры. Его никогда не считали новым чемпионом мира, и никто не приписывает ему даже частичку этого достижения. Так кто же, на самом деле, победил? Инженеры, стоящие за AlphaGo, отсутствовавшие на самих играх? Одна система? Или, что тревожно, никто вообще?
Нюхольм рассматривает потрясение 2016 года, которое подорвало наше чувство достижения, как лишь предвестник более масштабного землетрясения. В мире, где всё больше и больше ИИ, предполагает он, всё больше людей могут оказаться в ролях, напоминающих сотрудников Google DeepMind: выполняя задачи, интеллект которых лежит в другой области. Принесёт ли такая работа достижения, которыми можно было бы по-настоящему гордиться? Поскольку работа для многих является центральным источником смысла жизни, эта перспектива уже угрожает доступности осмысленной человеческой деятельности.
Нюхольм утверждает, что опасность уже существует. Он называет это частным случаем разрыва в смысле: разрывом в достижениях. Он возникает всякий раз, когда мы полагаемся на ИИ для выполнения задач, которые мы обычно выполняем сами, задач, которые обычно задействуют наш интеллект и навыки, таких как написание текста, сочинение музыки и принятие решений.
Когда мы это делаем, предупреждает Нюхольм, мы в конечном итоге «ограничиваем свой собственный вклад в результаты». По мере уменьшения нашей роли, получаемые продукты всё чаще не соответствуют критериям достижений, на которые мы можем по-настоящему претендовать. В этой сфере значимых достижений, настаивает Нюхольм, ставки ясны: если мы не будем активно противостоять этому дрейфу, нечто существенное для смысла человеческой жизни будет утрачено.
Кто сделал эту фотографию?
Один яркий пример разрыва в достижениях появился в начале эры генеративного ИИ. В 2023 году на Всемирном фотоконкурсе Sony художник Борис Эльдагсен получил первый приз за лучшую черно-белую фотографию. Изображение, любопытно названное «Электрик», изображало двух женщин в загадочных объятиях, выполненное в стиле старинной гравюры. Момент триумфа был недолгим. Эльдагсен отказался от награды и заявил, что это не фотография, а работа, созданная совместно с генеративным ИИ. С присущей ему скромностью он утверждал, что любой, кто полагается на ИИ, генерирующий изображения, не заслуживает похвалы за то, что он хороший фотограф, или даже за то, что он вообще фотограф. В лучшем случае, предположил он, подходящим названием будет «сумперграф».
На первый взгляд, этот инцидент может показаться узкой этической головоломкой, касающейся авторства и признания заслуг, которую можно было бы разрешить с помощью регулирования или путем создания новой категории, такой как «подсказки». Нюхольм считает, что проблема глубже — на кону стоит смысл. «Заботимся ли мы только о результатах, которые кто-то создает с помощью любых доступных инструментов?» — спрашивает он. По его мнению, при определенных ценностях ответ однозначно отрицательный. Важность не ограничивается конечным продуктом. Мы также обращаем внимание на то, как он был создан.
Когда мы хвалим чью-то работу, нас обычно волнует, кто именно ее выполнил. Мы спрашиваем, обладает ли человек навыками, которые сделали это достижение возможным. Нюхольм приводит простой пример. Если вы хотите узнать, умеет ли кто-то писать стихи, и обнаруживаете, что он попросил большую языковую модель создать стихотворение, а затем подписал его своим именем, вы ничего не узнаете о его способностях. Само стихотворение может быть впечатляющим. Оно даже может получить приз. Тем не менее, чего-то важного не хватает.
«Если вам не нужно прилагать усилий, — говорит Нюхольм, — если вы можете просто нажать кнопку, и в результате получится что-то хорошее», ситуация становится странной. Возможно, результат ценен и даже добавляет что-то значимое в мир. И все же, парадоксально, может оказаться, что ни система ИИ, ни участвующий в ней человек на самом деле не понимают, что делается.
Чтобы уточнить этот момент, Нюхольм предлагает обратить знаменитую «Китайскую комнату» Джона Сёрла против нас самих. В 1980 году Сёрл представил себе человека, запертого в комнате, который, следуя своду правил, выдает безупречные ответы на китайском языке, не понимая ни слова. Для тех, кто находится снаружи, это выглядит разумно; внутри же понимание так и не возникает. Сёрл использовал этот образ, чтобы показать, как компьютерная программа может манипулировать символами, не понимая их смысла.
Нюхольм оставляет человека в комнате, но меняет суть урока. Представьте, что тот же человек теперь получает сообщения на китайском языке, передает их в систему, подобную ChatGPT, с помощью подсказок и выдает ответы обратно. Эта сцена напоминает работу помощника в игре Го, выполняющего ходы AlphaGo, или создание фотографии с помощью ИИ. Интеллект проявляется, но понимание отсутствует. Полагаясь на такие системы без осмысления, Нюхольм предполагает, что аллегория больше не описывает машины. Она описывает нас.
«Так сделал ли кто-то что-то осмысленным и достойным восхищения образом, — спрашивает Нюхольм, — так, чтобы результат действительно считался его достижением?» Только тогда, по его мнению, мы можем сказать о произведении искусства или корпоративной политике: вы были архитектором этого; вы проявили рассудительность, мастерство и профессионализм. «Чем больше вы ничего на самом деле не делали, — добавляет он, — и поручали это ИИ, тем сложнее становится сказать: „Я — причина. Я — источник. Я заслуживаю признания“».
Нюхольм приводит знакомые примеры. Представьте себе писателя, который сильно полагается на литературного негра, или политического лидера, произносящего вдохновляющую речь, полностью написанную его сотрудниками. Теперь замените литературного негра или спичрайтера на ИИ. «В этот момент, — предполагает он, — возможно, придется сказать, что никто на самом деле не заслуживает похвалы». Мы восхищаемся ИИ как инженерным достижением, объясняет он, но не рассматриваем его как достижение в человеческом понимании. Усилия, навыки и авторство остаются категориями, которые мы отводим людям, а не технологиям.
Как отмечает Нюхольм, многие философы тесно связывают смысл с усилием и достижением. Особенно показательным для него является различие, предложенное политическим теоретиком Робом Гудманом: разница между «продуктами процесса» и «продуктами результата». Продуктами результата являются завершенные результаты деятельности: законченный текст, картина, результаты исследования. Продуктами процесса являются сами действия: живопись, исследование, преодоление трудностей. Именно это, по мнению Нюхольма, представляет наибольшую угрозу для ИИ. Многое из того, что делает достижение осмысленным, находится в процессе достижения.
Вдохновленный такими философами, как Гвен Брэдфорд и Ханна Маслен, Нюхольм добавляет, что подлинное достижение включает в себя трудности и жертвы. Оно также требует компетентности. Человек должен добиться результата, используя навыки, которыми он действительно обладает, демонстрируя определенный уровень мастерства. «Опираться на технологии ИИ, которые говорят нам, что делать, — подчеркивает он, — или которые помогают нам добиваться впечатляющих результатов, кажется недостаточным, чтобы считаться приложившим дополнительные усилия, проявившим особый талант или продемонстрировавшим какой-либо особый уровень мастерства».
Невыносимая легкость ИИ
Генеративный ИИ не случайно подрывает значимые достижения. Он делает это по замыслу и в соответствии со своей бизнес-логикой. «Он разработан для того, чтобы брать на себя задачи, которые требуют от нас усилий», — говорит Нюхольм. «В этом и заключается сама идея ИИ: искушение пойти по легкому пути». Трудность, добавляет он, заключается в том, что многие трудоемкие задачи — это именно те, которые несут в себе смысл. Глубокие отношения требуют терпения, трения и уязвимости. Навыки требуют времени, разочарования и настойчивости. И все же люди все чаще говорят: мой ИИ-компаньон всегда доступен, всегда готов поддержать и с ним гораздо проще общаться, чем с другим человеком. Или вместо того, чтобы изо всех сил пытаться развить навык, я могу позволить ИИ создать результат за меня.
В таких случаях похвала, которую получает ИИ, весьма показательна. Мы называем его удобным, экономящим время и дешевым. «Но имеет ли он смысл?» — спрашивает Нюхольм. Когда усилия, креативность и навыки исчезают, понятие «значимость» перестает казаться подходящим.
Его более глубокая обеспокоенность заключается не в том, что ИИ превзойдет людей, а в том, что это будет казаться очевидным, особенно для неспециалистов. «Современные формы ИИ угрожают осмысленной деятельности, — утверждает он, — потому что они выглядят гораздо умнее, чем есть на самом деле». Эта видимость внушает доверие. Люди начинают относиться к ИИ как к оракулу, принимая впечатляющее инженерное достижение за понимание. По мере роста неоправданной уверенности ослабевает способность к суждениям. Навыки развиваются менее полно. Способности передаются слишком легко, а вместе с ними и формы смысла, зависящие от усилий.
Нюхольм напрямую связывает это с ценностью процессов, включая путаницу, обходные пути и затягивание сложных задач. Он опровергает идею о том, что все должно быть быстро и эффективно. Скорость может казаться приятной, признает он, но она подрывает терпеливое мышление и переосмысление. Он приводит в пример рекламу Anthropic, обещающую написание работы за один день: мозговой штурм утром, черновик к полудню, доработка к вечеру. В этом видении исчезает медленная работа по поиску, заблуждениям, следованию по неверной дорожке и возвращению с проницательными выводами. «Многие идеи, — говорит Нюхольм, — возникают, когда ищешь одно, а находишь что-то другое». Когда ИИ выдает упорядоченные, целостные ответы, он избавляет нас от этой работы. При этом он рискует ослабить нашу способность разбивать сложные проблемы на части, проверять предположения и точно продумывать вещи.
Нюхольм осторожно отмечает, что вопрос о том, как сохранить критическое и аналитическое мышление, наряду с глубокой концентрацией, остается открытым. Его беспокоит альтернатива: постепенное скатывание к жизни, сформированной импульсами, кратковременным вниманием и постоянными отвлечениями. Эта проблема, настаивает он, не может быть возложена только на отдельных людей. Государственная политика имеет значение. Тем не менее, на личном уровне каждому из нас предстоит проделать работу. Нюхольм говорит о поиске «золотой середины между ИИ и смыслом» — способа жизни с технологической помощью, который все еще оставляет место для внесения своего вклада, активной роли в своем сообществе и достаточно долгого пребывания за сложными вещами, чтобы действительно их понять.
Прежде всего, Нюхольм противостоит соблазнительной иллюзии. Сводки, созданные искусственным интеллектом, и лаконичные ответы из трех пунктов могут освободить время — возможно, добавляет он с иронией, для просмотра большего количества видео в TikTok, — но они не приводят к мастерству. Они могут создавать видимость обучения без его содержания. Когда люди позже сталкиваются с ситуациями, требующими реального суждения, они обнаруживают этот пробел. Совершенство, напоминает нам Нюхольм, рождается из усилий. Он вспоминает анекдот о скрипаче Ицхаке Перлмане. На вопрос: «Я бы отдал свою жизнь, чтобы играть так, как вы», Перлман ответил: «Я и отдал свою жизнь, чтобы играть так, как играю я». Талант помогает. Что действительно отличает людей, так это время, практика и неизменная преданность делу.