Перевод эссе - https://centerforpoliticsanalysis.ru/position/read/id/chatgpt-neopravdannye-nadezhdy
Кажется, ежедневно материал про эссе Ноама Хомски о способностях нейросетей получает комментарии. Прибывающие сообщения носят дискуссионный характер, так как продолжают спор в границах главного сюжета, назревшего в комментариях, - о природе работы нейросетей в сравнении с человеческим мышлением. Если придавать теме понятийную спецификацию, то дискуссия вращается вокруг статуса языка в этих процессах и вокруг наличия интеллекта у нейросетей. А если найти лаконичную формулировку, отнеся в сторону излишнюю остроту слов, то вокруг вопроса: могут ли нейросети превзойти мышление человека?
Ранее я подготовил статью, разобрав устройство нейросетей и разъяснив, почему их сходство с человеком имеет предел в имитации только эпизода людского мышления. Иначе говоря, указал на то, что нейросети построены на одном из шагов в длинной цепочке процессов, именуемых "мышление".
Оставаясь в этих рамках, нейросети могут фантастически прогрессировать в количественном эквиваленте, наращивая базу данных (информацию, которой оперируют) и число параметров, слоев. Экспансия вширь - это не экспансия вглубь, количество не гарантирует качественное изменение.
Их магические жесты выглядят завораживающими потому, что большинство людей - скажем, обыватели и нормисы - держатся поверхности культуры, экономики, общества. Привычный горизонт скрывает колоссальные территории неизвестного. Неизвестного даже в своих очертаниях. Но неужели это проблема?
Наш мир наполнен великим множеством ремесленных занятий и куда меньшим числом творческих. Для коротания жизни достаточно выполнения механических задач без понимания сути процессов, используемых механизмов или собственного рода деятельности. Как кто-то живет без права выбора с физическими ограничениями, так некоторые самовольно ампутируют личность, речь, отказываясь от её сложностей и понимания себя. Предлагаю обратиться к личному опыту и вспомнить, сколь редко кому-то удается описать собственные впечатления без отсылки к чужому схожему опыту! Точно передать свои вкусовые ощущение или развернуто показать, что же внутри откликнулось на увиденную кинокартину.
Тут можно задать вопрос: а разве все перечисленное - точность слов, фактурность описаний, проницательность взора, обращенного внутрь себя - необходимый навык для жизни? На мой взгляд, просто ее украшение. Как и многое другое.
Ясная речь, выражение мыслей, понимание границ собственной компетенции о своего знания - досужие трудности нормиса. У человека всегда есть интеллект, есть разум и прочие черты человека, но с этим же набором исходных параметров есть и пребывание в зачаточном состоянии личности (как понятия, иллюстрирующего глубину погружения в культуру), которое может растянуться на весь жизненный путь, сохраняясь в законсервированном маленьком мире маленького человека. Пожалуй, это можно назвать в гегеловском духе привычкой, а еще - точкой отсчета, с которой в любой момент можно сойти. А может ли сделать шаг сверх себя нейросеть?
Нейросеть с огромным массивом информации, которой она способна аналитически (не выводя ничего качественно нового, но раскрывая содержание) распоряжаться, превзойдет уйму людей. Хотя нет, скажем точнее: она превзойдет локальное применение их навыков и способностей. Мы еще удивимся, сколь много заменимо на позициях, изначально имеющих границы, ведь у любого вида деятельности есть определенный характер. И это нормально.
Встречали людей, повторяющих, что история учит нас о прошлом, показывает то, что не должно повториться и что надо превзойти? Как часто они одновременно рассуждают о возвращении былых времен, когда «было лучше», а параллельно - говорят о "судьбе" и своей религиозности, имплицитно вводя концепцию линейного времени или цикличного? Занятная путаница, косвенно демонстрирующая весьма избирательную увлеченность историей.
Без цифровых технологий, порождающих поле одновременной современности, было легче убедить себя в меньших размерах человеческого мира как совокупности культурной информации. А с распространением интернета сколько жутких лакун возникло? Появились подборки книг, фильмов, разные "топ оф зе бест", инструкции к достижению счастья и смысла жизни, краткосрочные стратегии реализации предпринимательского и экономического потенциала любого живого организма - у всех цель сделать человека заметным для самого себя на громадном поле ресентимента по не включенности в культуру. Но это для тех, у кого ресентимент есть, ведь у некоторых он отсутствует в силу того, что они просто опустили взгляд.
К чему про историю? На карте истории произошли сотни событий, повлиявших на расстановку фигур на шахматной доске общества, вынуждая переквалифицироваться, сходить с места. Нейросети - только новое слагаемое, прилаженное к и без того огромной череде изменений, случившихся с людьми и производственными мощностями. Мануфактуры, заводы, компьютеры - они видоизменили устройство общества, но не стерли с лица земли людей.
Но технологии нужно интегрировать. Решения такого рода принимают чиновники и большие бизнесмены, иногда это две разновидности диктаторов, в политике и экономике. Только на высоких позициях в странах второго и третьего мира находятся люди, соответствующие обществу, что их произвело. Чад-нормисы, а не наследные принцы махараджи из гностических сообществ. Здесь не нужна излишняя мистификация власть держащих. Это те же самые люди. И "чадовость" - в способности видеть за людьми статистику, а не людей, что позволяет не конфликтовать с совестью, беспокоясь о чьих-то судьбах и сопереживая. Интегрируют ли оно непонятное колдовство? Сколько "полезных" инноваций ими было пропущено? Им тоже проще дожить свою жизнь, не рискуя лишний раз.
В ряду открытий и технических инноваций есть и куда менее "заколдованные", привычные и понятные нам явления. Колесо, отопление, канализация и туалет в доме. Везде ли даже в провозглашающих себя передовыми странах эти блага цивилизации стали обычным элементом действительности?
Так что всем достанется место. Люди не исчезнут и продолжат рождаться. В Азии, Африке, умножая миллиардное население не с помощью новых Микеланджело с Роланами Бартами, а добавлением строчек в демографической и экономической статистике. На нормисах и обычных людях держится мир. Кто-то всегда должен заниматься тем, что не будет стоять в авангарде почетных жизненных стратегий или воспеваться, служа аллегорией счастья и радости. И нормисы есть едва ли не везде. Даже в тех областях, где, казалось бы, производится нечто исключительно качественно новое. Каждый новый человек продолжит рассчитывать на какое-то занятие, обеспечивающее приток необходимых для выживания ресурсов. А потребности, за исключением самых базовых, сильно зависят от культуры, в которой мы выросли. Она открывает нам блага, желания, показывает практики и занятия, приносящие удовольствия, удовлетворенность собой и любые эмоции иного рода.
Нейросети вполне могут служить аксессуаром в личном пользовании, подготовленным проводником по интернету и культуре, готовым уделить нам свое время. А еще - оберегающим от мошенников, конспирологии, дающим хорошие и вдумчивые ответы на житейские вопросы. И приличным собеседником, если в окружении не хватает образованных, вежливых и внимательных людей.
Что касается языка и транспонируемости представлений о нем на работу нейросетей. Математика - тоже язык. Если есть способ выразить смысл, обозначив его и выстроив отношение между знаками, это, в сущности, язык. Всякие шифры, надстройки - модификации языка, к которому они приложены. Язык помогает выражать смысл, мысли, придавать структуру и отношения единичным символам и знакам, по правилам организуя. Поэтому в моем материале были замечания, что всплеск ощущений от появления качественно нового в некоторых областях будет иллюзорным результатом обработки данных, которые не всегда удавалось объять уму. Нейросеть способна реализовать "правила", на исполнение которых натренирована, продолжая последовательности или обнаруживая отсутствующие звенья, уверенно перемещаясь в границах системы, для обитания в которой она подготовлена. Что касается деталей, то Ноам Хомски замечательно показал ограничения, свойственные как людям, так и нейросетям. С одной стороны, трудности обработать астрономические совокупности информации (но трудность - не невозможность). С другой - невозможность создавать объяснения и находить мотивацию, целеполагание внутри себя.
В комментариях к записи есть уйма превосходных наблюдений и замечаний со стороны подписчиков. В целом, дискуссия получилась оживленной и познавательной. Очень приятно видеть такие события в жизни сообщества.
