Больше всего ИИ-шлака в разделе «Дети».
Душераздирающую драму про клубничную семью, у которой родился ребенок-банан, видели почти все. В соцсетях набирают популярность тысячи видео с незатейливым сюжетом, где антропоморфные животные и фрукты страдают (потому что они не такие, как все), изменяют и мстят друг другу. Подобный контент называют «нейрослопом», «ИИ-слопом» и «ИИ-шлаком».
Издание Kapwing провело исследование и выяснило, что около 59 процентов роликов, показываемых в ленте «Для вас» в TikTok, если аккаунт совсем новый, — ИИ-шлак. При этом 57,4 процента всех видео, ориентированных на детей, — тоже нейрослопы.
Журналисты вручную проанализировали 10 742 видео в TikTok по 20 популярным категориям и зафиксировали количество обычного контента и ИИ-шлака.
«Чтобы определить долю ИИ-слопа, показываемого новым пользователям, мы создали совершенно новый аккаунт в TikTok и фиксировали появление таких видео в разделе „Для вас“ при просмотре первых 500 роликов», — говорится в публикации.
В итоге, 294 из 500 видео оказались нейрослопом. Категория с самой высокой долей ИИ-шлака — «Дети» (57,4 процента). Далее следуют «Наука и образование» (35 процентов), «Здоровье» (33,8 процента) и «История» (33,5 процента). В топ-девяти категориях более чем каждое десятое видео — нейрослоп. Меньше всего ИИ-шлака в разделах «Фитнес», «Музыка» и «Мода».
Научные факты и концепции хорошо поддаются визуализации с помощью анимации, отмечают авторы исследования. Но когда такие видео создаются в спешке и с упором на сенсационность, их потенциальная ценность снижается.
Ученые уже предупреждали, что ИИ-слопы на тему образования засоряют платформу и конкурируют с более авторитетными источниками. В них часто содержатся опечатки и искаженные буквы.
Некоторые создатели контента, вроде Джонатана Ларами, который создал аккаунт Chloe VS History («Хлоя против истории), считают, что ИИ — это шанс оживить образовательные темы и использовать новую технологию во благо.
«Да, есть люди, которым наплевать на историю, — сказал он в интервью Sky News, комментируя контент конкурентов. — Потому что ошибки встречаются на каждом шагу».
Однако на канале Ларами сценарии тоже создаются с помощью искусственного интеллекта, и зрители часто критикуют его за исторические неточности.
В категории «Дети» Kapwing проанализировало 2000 видео, из которых 1 147 роликов оказались ИИ-слопом. Больше всего такого контента по хэштегу #cartoonkids (детские мультфильмы). Только три из 100 видео были созданы человеком. Примерно треть или более видео почти по всем проверенным хештегам оказались нейрослопом. Меньше всего ИИ-слопа было найдено по хэштегу #babytok — там он встречался в каждом десятом ролике.
Исследователей поразило, в каких масштабах дети сталкиваются с ИИ-шлаком — от бессмысленного «брейнрот-контента» до опасно неточных песен и уроков.
В качестве примера журналисты привели видео под хэштегом #preschoollearning (дошкольное обучение). В нем используются персонажи «Улицы Сезам», которые учат детей считать на примере печенья. При этом числа не соответствуют количеству печенья, сама анимация небрежная, а голоса попросту ужасны. Раздел комментариев заполнен короткими бессмысленными последовательностями букв, повышающими видимость видео.
Авторы исследования резюмируют, что дети продолжат сталкиваться с вредным ИИ-контентом до тех пор, пока люди не перестанут перекладывать тяжелую работу по созданию видео на роботов, не уделяя времени и внимания качеству контента. Причина сложившейся ситуации в том, что данные, на которых ИИ обучается, содержат ошибки.
Kapwing определяет нейрослоп как небрежный, низкокачественный контент, созданный с помощью искусственного интеллекта, который используют для набора просмотров и подписчиков либо для влияния на политические взгляды.