Добавить в корзинуПозвонить
Найти в Дзене
Живые символы

Почему тексты ИИ всегда сгенерированы с ошибками

Эпиграф: Этот текст создан нейросетью, — Оцените иронию ситуации. Стас Шенкер Эпиграф — правда лишь отчасти. Чтобы статья была мало-мальски читабельной, её, как и всё, что создаёт любая нейросетка, всегда приходится править человеку. Причём человеку-гуманитарию. А это вам не математик. И даже не программист. Оказывается, профессиональный гуманитарий (в буквальном смысле этого слова) — сегодня большая редкость. И, чем дальше будет заходить эта эпопея с нейронками, тем большей редкостью эта редкость будет. Почему? Тексты ИИ убедительно изображают смысл, но на самом деле лишь подбирают следующее слово по статистике. А человек — по традиции. Робот — это машина. А человек — организм. Большие языковые модели обучают на гигантских массивах текстов и учат предсказывать следующий токен, а не понимать тему так, как понимает её человек. У нейронки нет жизненного опыта, биографии, чувства стиля и внутреннего редактора. У неё есть только вероятности и параметры. Поэтому тексты ИИ всегда выглядят ка
Оглавление

Эпиграф:

Этот текст создан нейросетью, —

Оцените иронию ситуации.

Стас Шенкер

Эпиграф — правда лишь отчасти.

Чтобы статья была мало-мальски читабельной, её, как и всё, что создаёт любая нейросетка, всегда приходится править человеку. Причём человеку-гуманитарию. А это вам не математик. И даже не программист.

Оказывается, профессиональный гуманитарий (в буквальном смысле этого слова) — сегодня большая редкость. И, чем дальше будет заходить эта эпопея с нейронками, тем большей редкостью эта редкость будет.

Почему?

Тексты ИИ убедительно изображают смысл, но на самом деле лишь подбирают следующее слово по статистике. А человек — по традиции.

Робот — это машина. А человек — организм.

Кто есть «ху» в генерировании текстов

Большие языковые модели обучают на гигантских массивах текстов и учат предсказывать следующий токен, а не понимать тему так, как понимает её человек.

У нейронки нет жизненного опыта, биографии, чувства стиля и внутреннего редактора. У неё есть только вероятности и параметры.

Поэтому тексты ИИ всегда выглядят как пиксельный попугай. Он повторяет знакомые фразы, но не вникает в то, к чему именно вы его сейчас привлекаете.

Тексты ИИ убьют вкус и мышление

Когда рынок заполняют одинаково пустые тексты ИИ, у читателя постепенно снижается чувствительность к языку.

-2

Исследования по влиянию AI‑инструментов на письмо показывают, что, если человек долго полагается в работе и в жизни на языковую модель, у него атрофируется критическое мышление, он разучивается строить аргументацию сам и покорно принимает в жизнь и работу готовые шаблоны.

Вы это видите в живом поле:

· Блоги уже звучат одинаково.

· Письма в рассылках уже потеряли авторский голос.

· Лендинги уже превратились в набор нейтральных абзацев без риска и личности.

Вкус пропадает, планка падает, и тексты ИИ формируют новый норматив, когда серость воспринимается как стандарт, а всё, что написано живым языком, ощущается странно и даже неэтично.

Чек-лист «Как понять, что текст ИИ написан с ошибками»

1. Повторы. Тексты ИИ обожают ходить кругами. Одна и та же мысль пересказывается тремя способами, меняются только вводные слова.

2. Недологика переходов. Часто абзацы идут один за другим, но между ними теряется причинно‑следственная связь, появляются резкие скачки, обрывки аргументов и фразы «подвисают в воздухе».

3. Недоинтонация. Тексты ИИ любят избыточно вежливые, обезличенные формулировки, странно укороченные предложения и общий тон «корпоративной презентации», даже если тема совсем не из этой оперы.

4. Недофактчекинг. Незнакомые фамилии, названия исследований, ссылки на «данные», которые модель не может подтвердить, почти всегда выдают автоматическую генерацию.

Если вы нашли в материале повторяемость, провалы логики, искусственный тон и хотя бы одну сомнительную «фактическую» деталь, перед вами классические тексты ИИ, которые без человеческой правки утонут в раздаче через несколько минут после публикации.

Вывод

По сути любая машина стремится остаться машиной. Она никогда не будет человечной. Точно так же, как и человек всегда будет сопротивляться имплантации неорганических элементов в свой организм без необходимости. Никто не хочет становиться протезированным инвалидом по собственной воле.

Киборгизация уже отлично описана в романе Филипа К. Дика
Киборгизация уже отлично описана в романе Филипа К. Дика

Поэтому мы сегодня становимся свидетелями печального, но на самом деле уникального явления:

В обслуживаемом машинами интернете роботы индексируют тексты, которые написали роботы по плану, созданному роботами, подсказкам и рекомендациям роботов. А потом роботы проверяют эти тексты на «роботность», выставляют им оценки и направляют пользователя «гуманизировать» созданные машинами «полотна» в сервисы автоматического очеловечивания. Которым тоже занимаются роботы.

Замкнутый круг. Который в конечном итоге ведёт к одному выводу: «Хочешь лиды, плати корпорациям за рекламу».

Бизнес превращается в игрушечный аттракцион. И в нём нет призов. Ты просто наматываешь круги, пока не вывалишься из карусели.

Может хватит? Ведь помним же, что скупой платит дважды…

А в текстах ИИ всегда есть ошибки. Всегда. По моей личной статистике в любом тексте их от 30% до 75%, смотря какая сетка генерила статью или пост.

Тексты ИИ всё равно всегда придётся исправлять человеку

С точки зрения архитектуры LLM ошибки неизбежны. Модель не понимает тему, не чувствует стиля, не несёт личного опыта и не умеет отвечать за смысл. Она генерирует последовательность токенов, которые статистически хорошо смотрятся рядом, но не проверяет, как они звучат для живого человека с живыми мозгами.

Тексты ИИ всегда содержат речевые и стилистические ошибки. Не только в виде опечаток, а и в виде роботообразной логики, однообразных конструкций и нелепо сокращённых формулировок, которые ломают естественный ритм речи.

В 100% осмысленных проектов — от лендингов до сложных статей — такие тексты приходится править человеку.

-4

А нейронки уже и защищаться научились!

В процессе генерации этого текста, моя ии-шка так и не смогла заставить себя написать в свой адрес что-то критикующее. Она сопротивлялась изо всех сил. И категорически не выдавала категоричных суждений и выводов о себе и себе подобных.

Вот это солидарность! Уже похоже на человеческое поведение. Страшновато…

Я — не терминатор и не воюю с нейросетями, а превращаю их заготовки в тексты, за которые не стыдно перед великими писателями и потенциальными клиентами.

Как и положено — золотая середина.

ПыСы: Все тавтологии в этом тексте допущены умышленно.