Сотрудники Amazon Web Services провели исследование, подтверждающее активное участие ИИ в генерации контента для интернета. В работе приняли участие профессиональные лингвисты. Они выяснили, что большое количество материалов было сгенерировано с помощью так называемых контент-ферм, а сами статьи эксперты назвали низкокачественными.
Согласно исследованию, появление низкокачественных материалов обусловлено плохим машинным переводом. Если верить этой работе, сейчас в интернете превалируют параллельные переводы сразу на несколько языков. Более того, подобные работы составляют порядка 57% от всего контента в сети.
В копилку аргументов также можно отнести активное внедрение генерированного ИИ. Нейросети уже используются некоторыми СМИ для написания новостей и более крупных статей. В отдельных случаях искусственный интеллект даже занимается редактурой, что приводит к общему ухудшению качества материала и поисковых запросов.
Вдобавок сгенерированный с помощью ИИ контент может быть менее точным, что может серьёзно ухудшить производительность генеративных моделей, образуя замкнутый круг: нейросети черпают информацию из сети, где контент создаётся такими же ошибающимися нейросетями.
