Слова обладают силой, и мы передаём её машинам
Когда мне было тринадцать, я открыл для себя Чака Паланика и влюбился в его книги. Они отличались от всего, что я читал раньше.
Меня поразило его использование языка. Всё, что я думал, что знаю о пунктуации, порядке слов и построении предложений, оказалось перевёрнутым с ног на голову — до этого я читал только более традиционную литературу.
И то, что он вытворял со словами... Ух ты. Мне ведь говорили, что так делать нельзя!
Последующие полгода я пытался имитировать его стиль в коротких рассказах, которые писал для себя на компьютере. Насчёт качества этих попыток можно поспорить, но я чему-то учился: я учился находить свой голос, подражая голосам других людей. Так мы все и растём — не только в плане слов.
Если бы это случилось сегодня, возможно, я бы и не стал экспериментировать с языком сам. Я бы просто попросил ChatGPT сделать это за меня.
«Эй, Чатик, перепиши это как первую главу сиквела “Бойцовского клуба”.»
Но что, если бы автор подал в суд на OpenAI и запретил использовать свои работы для обучения ИИ? Тогда бы я лишился такой возможности. Для литературы это, может, и не было бы большой потерей, но для меня?
В последнее время я много думал о происхождении и эволюции слов, и это привело меня к размышлениям о будущем языка в мире, где ИИ становится всё более заметным.
Медиа всегда влияли на язык: это не новость. Радио, телевидение, соцсети — все они уже меняли язык. Но ИИ — это нечто иное. Сейчас объясню почему.
ИИ влияет на социальные дебаты
Слова несут идеи и убеждения.
Возьмём инклюзивность. В неанглоязычных странах обсуждают, как сделать язык более инклюзивным по отношению к женщинам и небинарным людям. Например, в итальянском, где слова строго гендерные, ведётся жаркий спор о введении шва (ə) как гендерно-нейтрального окончания.
По традиции, в смешанных группах используется мужская форма. Группа из 500 женщин и 1 мужчины? Всё равно надо использовать мужской род. Чтобы бороться с этим перекосом, предлагают ввести нейтральное окончание с помощью знака шва.
Подобно итальянскому, немецкий тоже меняется. Язык ищет способы стать инклюзивнее. Например, «ученики» — это «Schüler» для мужчин и «Schülerinnen» для женщин, но в смешанных группах снова используется мужская форма. Чтобы изменить это, вводят форму «Schüler:innen».
Это вызывает дебаты. Независимо от вашей позиции по этому вопросу, люди обсуждают социальные темы через язык. Слова, которые мы используем для обозначения групп, отражают наши убеждения.
Как же ИИ реагирует на такие разные мнения об инклюзивности языка? Всё зависит от датасета.
Но, так как ИИ контролируют компании, именно они решают, какие тексты попадут в обучающую выборку и нужно ли специально обучать ИИ поддерживать или игнорировать определённые формы языка. Тут вступают в игру факторы, не имеющие к языку прямого отношения — экономические интересы, политические взгляды или забота об имидже бренда. Они могут повлиять на эти решения и направить эволюцию языка в обществе.
Чем больше мы используем ИИ для чтения, письма и речи, тем больше мы пассивно принимаем его языковые выборы.
Мы отдаём контроль над словами. Вы можете сказать: «Да большинству людей, особенно тем, кто не пишет профессионально, и не было дела до этой силы». Но в этом-то и дело: эволюцией языка трудно управлять, потому что это спонтанный процесс, в который вносят вклад все.
Если только компания не получает возможность выбирать слова за вас. Это влияет и на социальные дебаты, которые рождаются из языка.
Если ИИ будет выбирать за нас, нам не придётся самим решать, как использовать язык для выражения своих идей. Мы даже не будем задумываться о том, какое у нас мнение. Звёздочка или нет? Пусть Чатик решает!
Отсутствие позиции по вопросу инклюзивности в языке может ослабить и саму дискуссию о равенстве в обществе.
Репрезентация языка имеет значение
А что насчёт языковых вариантов, которые слабо представлены в обучении ИИ? Они рискуют быть исключёнными из повествования. Диалекты, региональные варианты, языки, на которых говорит меньшинство, будут недостаточно представлены в выходных данных ИИ.
Если ИИ будет писать за нас, он будет использовать слова большинства. Стандартный язык проигнорирует тех, кого и так плохо слышно в обществе. Это влияет на то, как мы воспринимаем этих людей — мы не видим и не слышим их слов, значит, они как бы перестают существовать в наших глазах, а их идеи теряют вес.
Когда они будут говорить, их идентичность покажется отклонением от нормы, и их будут подталкивать к использованию «стандартного языка» для общения с ИИ в личных и профессиональных контекстах. Может возникнуть своего рода лингвистический отбор, основанный на представительности в онлайне.
Дело не только в том, кого включают в датасеты, но и в том, кого не включают. Авторы уже подают в суд на ИИ-компании за использование своих защищённых авторским правом текстов для обучения. Со временем им, возможно, придётся выбирать: разрешить использовать свои тексты (может, за вознаграждение) или отказаться и оказаться исключёнными.
Их слова, а вместе с ними и идеи могут потерять значимость в мире, где мы всё больше будем делегировать ИИ написание текстов или чтение и пересказ за нас.
ИИ контролирует доступ к идеям
Переводчики и синхронисты теряют работу из-за ИИ, потому что он быстрее и дешевле. Но что такое перевод, если не бесконечная цепочка решений? Переводчик — это фильтр между оригинальным текстом и его читателем на другом языке.
Если переводом займётся ИИ, он будет решать, какой язык передать, а вместе с ним — какие идеи. Как я понял, читая Паланика, то, как мы используем слова, имеет значение. Язык распространяется сложно и непредсказуемо: мы читаем, слушаем, повторяем, говорим, пишем и создаём новый язык, который потом становится стандартом.
Если ИИ будет осторожно «подправлять» идеи — выбирая синонимы, переводя неологизмы, внося мелкие сдвиги без явного искажения оригинала — эти «подталкивания» в совокупности изменят то, что мы читаем и говорим.
А значит — и то, что мы думаем.
ИИ способствует стандартизации и универсализации языка
Как ни крути, ИИ — это софт, созданный ради эффективности. А язык — это люди, со всей своей избыточностью и сложностью. Игнорируя диалекты и вариации и делая упор на распространённые слова и структуры, ИИ может создать глобальный лингва франка — язык, который легко использовать, понимать и переводить.
Сколько людей уже говорит: «Зачем учить язык, есть же Google Translate». Через двадцать лет роль ИИ как фильтра в наших разговорах — как между носителями разных языков, так и в рамках одного — станет огромной.
Мы будем сидеть за компьютерами, просить ИИ написать письмо, а другой ИИ будет отвечать — миллионы раз в день. ИИ будет писать наши дневники, романы, фанфики и новости. ИИ будет говорить за нас.
Даже если нам кажется, что мы контролируем ситуацию, указывая ИИ, что сказать, — он решает, как это сказать. Большинству из нас всё равно, какие именно слова или структуры будут использованы; когда мы говорим или пишем на автомате, мы всё равно делаем выбор — пусть и неосознанно. Но когда это делает ИИ, выбор больше не наш.
Эволюция языка изменится: мы будем использовать упрощённый, обезличенный английский без индивидуальности, игнорирующий региональные особенности и семейные истории, служащий просто как инструмент. Менее человечный, но более эффективный.
ИИ напрямую влияет на появление новых слов
Стандартизация и упрощение языка не специально задуманы ИИ — это побочный эффект того, что софт пишет за нас. Но как насчёт новых слов?
Подумайте, сколько слов и выражений появилось в последние годы: doomscrolling, quiet quitting, gaslighting, deepfake... Эти слова родились, чтобы описать новые реалии, или мы изменили их изначальный смысл, чтобы выразить свои чувства к этим реалиям.
А что будет, если ИИ начнёт сам придумывать для нас новые слова? Он может ввести новые термины или сленг, которые потом станут частью повседневного языка и разлетятся по соцсетям.
В этом нет ничего страшного, пока компании не почувствуют в этом выгоду. Подумайте, сколько денег тратится на маркетинг. Неужели они упустят шанс заставить ИИ придумывать новые слова и сленг, который будет продвигать их продукты и станет вирусным?
Это уже случалось: фразы вроде «A diamond is forever» или «Just do it» появились в рекламе и стали частью повседневного языка. Но тогда мы это осознавали, и происходило это лишь в малой части рекламного потока.
Насколько сильнее и быстрее ИИ сможет ускорить и усилить этот процесс?
Мы можем стать свидетелями эволюции языка, управляемой маркетингом. Вам может быть всё равно, но помните: слова ведут к действиям. Потребительское поведение может изменяться под влиянием скрытой рекламы.
Функции языка меняются
До сих пор язык был нужен нам, чтобы выражать идеи. Но если нам больше не нужно самим их формулировать, язык может превратиться в инструмент создания эффективных промптов. Это может изменить функции языка: он перестанет быть средством общения между людьми и станет способом общения с машинами.
Уже сегодня появляется новая навык — «грамотность в промптах», и скоро он будет не только в вакансиях, но и в программах вузов и школ.
Это логично: зачем учить писать эссе, если можно просто дать задание ChatGPT?
Другие привычные навыки — ведение конспектов, составление краткого изложения, выделение ключевой информации — могут исчезнуть, как в своё время исчезла каллиграфия. Язык может стать всего лишь инструментом оптимизации для того, чтобы машины давали нам более точные и эффективные результаты.
Но ограниченная способность работать с текстами ведёт к ограниченной способности размышлять над содержанием этих текстов. Форма и содержание всегда взаимосвязаны.
Если вы хотите читать больше интересных историй, подпишитесь пожалуйста на наш телеграм канал: https://t.me/deep_cosmos