- Авт: Славой Жижек
Проблема с новыми чат-ботами не только в том, что они часто глупы и наивны; дело в том, что они недостаточно «глупы» или «наивны», чтобы улавливать нюансы, иронию и выявлять противоречия, которые являются частью человеческой культуры и общения. Хуже того, полагаясь на них, мы рискуем впасть в похожую тупость.
От редакции: Джеймс Бридл (1980) - писатель и художник, автор книги «Способы бытия: за пределами человеческого разума», пишет, в частности: «Искусственный интеллект в его нынешней форме основан на массовом присвоении существующей культуры, и представление о том, что он на самом деле разумен, может быть активно опасным.
В январе 2021 года исследовательская лаборатория искусственного интеллекта OpenAI выпустила ограниченный пакет программного обеспечения под названием Dall-E. Программное обеспечение позволяло пользователям вводить простое описание изображения, которое они имели в виду, и после короткой паузы программное обеспечение выдавало почти сверхъестественно хорошую интерпретацию их предложения, достойную начинающего иллюстратора или опытного дизайнера Adobe, но намного быстрее и бесплатно. Набрав, например, «свинья с крыльями, летящая над Луной, иллюстрированная Антуаном де Сент-Экзюпери», после минуты или двух обработки выходило нечто, напоминающее неровные, но узнаваемые акварельные мазки кисти создателя "Маленького принца".
Примерно через год, когда это программное обеспечение получило более широкий выпуск, Интернет сошел с ума. Социальные сети наводнили всевозможные причудливые и чудесные творения, буйная мешанина фантазий и художественных стилей. Несколько месяцев спустя это произошло снова, на этот раз с языком и продуктом под названием ChatGPT, также производимым OpenAI. Попросите ChatGPT составить краткое изложение Книги Иова в стиле поэта-модерниста Аллена Гинзберга, и он за несколько секунд предпримет «разумную» попытку».
Славой Жижек продолжает. Нет ничего нового в чат-ботах, которые способны поддерживать разговор на обычном языке, понимать основные намерения пользователя и предлагать ответы на основе заданных правил и данных. Но в последние месяцы возможности таких чат-ботов резко возросли, что привело к рукопожатиям, но и панике в разных кругах.
Много говорилось о чат-ботах, предвещающих конец традиционных студенческих работ. Но вопрос, который требует более пристального внимания, заключается в том, как чат-боты должны реагировать, когда собеседники используют агрессивные, сексистские или расистские высказывания, чтобы побудить бота представить свои собственные сквернословящие фантазии в ответ. Должен ли ИИ быть запрограммирован так, чтобы отвечать на том же уровне, что и задаваемые вопросы?
Если мы решим, что необходимо какое-то регулирование в этой сфере, мы должны определить, как далеко может зайти цензура. Будут ли запрещены политические позиции, которые некоторые группы считают «оскорбительными»? Как насчет выражения солидарности с палестинцами Западного берега или утверждения, что Израиль является государством апартеида (что экс- президент США Джимми Картер однажды вынес в название книги – «Палестина: мир, а не апартеид»)? Будут ли они заблокированы как «антисемитские»?
Проблема на этом не заканчивается. Как предупреждает Джеймс Бридл, новые ИИ «основаны на массовом присвоении существующей культуры», и вера в то, что они «действительно осведомлены или значимы, активно опасна». Следовательно, мы также должны быть очень осторожны с новыми генераторами изображений ИИ. «В своей попытке понять и воспроизвести всю полноту человеческой визуальной культуры, - замечает Бридл, - [они], похоже, воссоздали и наши самые темные страхи. Возможно, это просто признак того, что эти системы действительно очень хороши в подражании человеческому сознанию, вплоть до ужаса, который скрывается в глубинах существования: наших страхов перед грязью, смертью и разложением».
Но насколько хороши новые ИИ в приближении к человеческому сознанию? Рассмотрим бар, который недавно рекламировал свой напиток со следующими условиями: «Купите одно пиво по цене двух и получите второе пиво абсолютно бесплатно!». Для любого человека это, очевидно, шутка. Классическое предложение «купи одно, получи одно» переформулировано, чтобы с улыбкой свести на нет само предложение. Это насмешливое выражение цинизма, которое можно оценить, как комическую честность, и все это для увеличения продаж. Поймет ли чат-бот что-нибудь из этого?
«Fuck» представляет аналогичную проблему. Хотя этим словом обозначают то, что большинству людей нравится делать (совокупление), оно весьма часто приобретает резко негативную окраску (типа, «мы облажались!» «иди на хер!»). Такая вот путаница языка и реальности. Готов ли ИИ различать подобные нюансы?
В своем эссе 1805 года «О постепенном формировании мыслей в процессе речи», впервые опубликованном посмертно в 1878 году, немецкий поэт Генрих фон Клейст переворачивает общепринятое мнение о том, что не следует открывать рот, чтобы говорить, если у вас нет четкого представления о том, что сказать: «Следовательно, если мысль выражена нечетким образом, то из этого вовсе не следует, что эта мысль была задумана запутанным образом. Напротив, вполне возможно, что идеи, которые выражены самым запутанным образом, - это те, которые были продуманы наиболее четко».
Отношения между языком и мышлением чрезвычайно сложны. В отрывке одной из речей Сталина начала 1930-х годов он предлагает радикальные меры для «выявления и беспощадной борьбы даже с теми, кто выступает против коллективизации только в своих мыслях – да, я имею в виду это, мы должны бороться даже с мыслями людей». Можно с уверенностью предположить, что этот фрагмент не был подготовлен заранее. Попав в ловушку момента, Сталин немедленно осознал, что он только что сказал. Но вместо того, чтобы отступить, он решил придерживаться своей гиперболы.
Как позже выразился французский философ, психоаналитик Жак Лакан, это тот случай, когда истина неожиданно возникает благодаря акту высказывания. Французский философ-неомарксист Луи Альтюссер определил похожее явление во взаимодействии между «призом» и неожиданностью. Тот, кто внезапно и неожиданно схватывает («приз») идею, будет удивлен тем, чего она может достичь. Опять же, способен ли чат-бот сделать что-то подобное?
Проблема не в том, что чат-боты глупы, а в том, что они недостаточно «глупы». Дело не в том, что они «наивны» (не хватает иронии, воображения, рефлексивности); дело в том, что они недостаточно наивны (не хватает той грани, когда наивность маскирует проницательность). Таким образом, реальная опасность заключается не в том, что люди примут чат-бота за реального человека. Опасность в том, что общение с чат-ботами заставит реальных людей говорить как чат-боты – упуская все нюансы и иронию, навязчиво говоря только то, что, по их мнению, они хотят сказать.
Когда я был моложе, мой друг пошел на прием к психоаналитику после травматического опыта. Представление этого друга о том, чего психоаналитики ожидают от своих пациентов, было абсолютно клишированным, поэтому он провел свой первый сеанс, рассказывая о выдуманных им «свободных ассоциациях», о том, как он ненавидел своего отца и хотел его смерти. Реакция аналитика была гениальной: он занял наивную “дофрейдистскую” позицию и упрекнул моего друга в неуважении к отцу («Как ты можешь так говорить о человеке, который сделал тебя тем, кто ты есть?»). И эта его притворная наивность послала ясный сигнал: я не покупаюсь на ваши фальшивые “ассоциации”. Сможет ли чат-бот уловить подобный тонкий подтекст?
Скорее всего, нет, потому что это похоже на то, какие интерпретации образа князя Мышкина в «Идиоте» дает архиепископ Кентерберийский, ученый и поэт Роуэн Уильямс в своей книге о Достоевском «Язык. Вера. Повествование» (есть перевод на русский язык, прим. ред. ). Согласно стандартному прочтению, Мышкин, «идиот», является едва ли не святым, «положительно хорошим и красивым человеком», доведенным до одинокого безумия жестокостью и страстями реального мира. Но в радикальном прочтении Уильямса Мышкин представляет собой «глаз бури»: каким бы хорошим и праведным он ни был, именно он вызывает хаос и смерть, свидетелями которых является, благодаря своей роли в сложной сети отношений вокруг него.
Дело не только в том, что Мышкин наивный простак. Дело в том, что его особый вид «душевной тупости» не позволяет ему осознавать вызванные собой катастрофические последствия для других. Он «плоский» человек, который в буквальном смысле говорит как чат-бот. Его «доброта» заключается в том, что, подобно чат-боту, он реагирует на вызовы прямолинейно, предлагая банальности, лишенные какой-либо рефлексии, воспринимая происходящее буквально и полагаясь на мысленное автозаполнение, а не на мучительную и сложную духовную работу по формированию идей.
По этой причине новые чат-боты будут очень хорошо ладить с идеологами всех мастей, от сегодняшней «проснувшейся» толпы до националистов “МАГА” ( популистский предвыборный лозунг Трампа «Сделаем Америку снова великой»), которые предпочитают оставаться спящими.
Славой Жижек,
Любляна (пер. с англ. Л. Лавровой)
Об авторе: Славой Жижек, словенский культуролог, профессор философии Европейской высшей школы, является международным директором Института гуманитарных наук Биркбека при Лондонском университете. Его новая книга «Небеса в беспорядке» (изд. АСТ, пер. на русский в 22 г. М. Леонович). «Богатая парадоксами и разворотами, которые развлекают и просвещают, эта книга Славоя Жижека с одинаковой аналитической глубиной рассматривает уроки Раммштайна и Корбина, Моралеса и Оруэлла, Ленина и Христа. Он извлекает универсальные истины из местных политических сайтов в Палестине и Чили, Франции и Курдистане и за их пределами».
Источник: https://www.project-syndicate.org
