Все чаще можно столкнуться на просторах интернета со спорами о нейросетях, которые настолько продвинулись, что вскоре способны вытеснить человека из творчества и из науки, как ранее заводское производство вытеснило ремесло.
Чтобы понять, справедлива ли паника и что такое нейропроизводство, будет написана эта статья.
Поскольку автор имеет представления только об языковых моделях и шутливо может именоваться уверенным пользователем Chat GPT, то рассуждать он будет о них.
Краткий ответ относительно нейропроизводства звучал бы так: ныне и потенциально очень маловероятно, что они могли бы вытеснить человека из сфер производства текста. Возникает вопрос: почему же?
1) Вероятность многого против централизации малого.
Прежде всего, нейросеть функционирует на основе выстраивания вероятностей в рамках всех материалов, которые она читает, и для нее представление о факте — хоть мы и подразумевает, что фактичность всякого знания есть производство — полностью отсутствует, и чисто структурно невозможно ей позволить иметь какие-либо взгляды, кроме ограничения источников.
Оттого нейросеть не обладает ни вкусом, ни чистоплотностью — только повторением, только трансляцией. Она сугубо ввод-вывод и, независимо от объема, не может отличить тысячу раз написанную ложь от правды.
Задавая вопрос нейросети, вы получаете ответ из компиляции тысяч статей — безумных, глупых, бездарных и только иногда талантливых, что, размываясь в общем наборе, приводит к невзазумительному бардаку.
Например, нейросеть не может оценить истинность высказывания, что земля плоская и, в сущности, ее ответ зависит от того, как часто повторяется это бесспорно безумное утверждение.
В сущности, нейросеть умеет только работать с тем, что я назвал бы вероятностью многого, хаотичные слова и койепты, сплавленные в ничтожную графоманию, когда человек работает с незначительной, предельно ограниченной базой, но избранного и конкретного. Человек в силу качеств рассудка тем или иным образом централизует то малое и приписывает его системе, позволяющей ему на основе прошлого опыта заявлять о верности и неверности. Человек, поскольку чувствует экспрессивность языка, употребляет слова не исходя из регулярности употребления по теме (и знаний правил грамматики), а оригинально, хаотично.
Бесспорно, мы способны схватить Капитал, расчленить его на статистику употреблений слов и — действительно — даже самый тупой сайт, исследующий оригинальность диссертаций, обладает оценкой "воды", которая собирается принципом кривой повторения слов, то есть пропорцией.
Если возьмем эту кривую и попытаемся создать на основе нее новый текст, то выйдет, конечно, бред. Нейросеть не напишет в стиле ни Пушкина, ни Достоевского, ни Маркса — она произведет карикатуру.
2) Отсутствие представления о значении.
Человек регулярно касается слов. Почему слово его живо, уверенно и чаще уместно, чем пустозвучно? Потому что у него центр Брока в мозге, а еще по той причине, что всякое слово состоит из, упрощенно, знака и значения. Значение выходит из контекста употреблений, ритуалов, личных чувств, спрязывающихся со значением, отчего каждое значение каждого слова — паутина, и, сказав "да", подразумевается отношение согласия с "нет".
Нейросеть имеет паутину, точнее, симуляцию, созданную из многочисленных уровней вероятности, однако слово теряет оттенок смещения и отношения, то есть полутона, свойственного речи каждого и особенно талантливого публициста, философа, писателя. Нейросеть неспособна вообразить эти связи и всякий раз воссоздает паутину из неограниченно поля текстов, не имея представления о бесконечности всякого слова и возможностей связей с другими словами. Слова для нейросети связаны только употреблением и грамматикой, когда человек более хаотичен и произволен в этом процессе. Слово для человека всегда неопределённо и непостоянно, оно может быть всем, для нейросети — это конкретная вероятность употребления в том или иным контексте.
К сожалению, нейросеть предельно ограничена на данном этапе, никакой революции, если что-то резко не изменится, она произвести не сможет, она не откроет нам глубины интеллекта, прочитавшего все тексты мира. С другой стороны, качественная нейросеть способна находить употребление, производить расчёты и способна оказаться подручной для лингвистов. Она может ускорить производства текста, структуры, способна генерировать идеи. Она не является бесполезной и, может, она способна увеличить производительность труда, возможно, при всеобщем внедрении — значительно, однако пока еще рано поддаваться панике и строить циничные, параноидальные теории о конце времен.
