Если вам кажется, что детский контент на YouTube - это строго про милых зверушек, добрые песни и обучающие мультики, то у меня для вас интересная новость - интернет, как обычно, решил иначе.
Более 200 психологов и правозащитных организаций решили, что пора аккуратно вмешаться в этот праздник алгоритмов. И обратились к Google и YouTube с просьбой ограничить показ детям роликов, созданных с помощью искусственного интеллекта. Причём речь идёт не только про обычную платформу, но и про YouTube Kids - тот самый «безопасный режим», который внезапно тоже оказался не таким уж детским садом с идеальными игрушками.
Суть претензии довольно приземлённая, без драм и апокалипсиса. ИИ-видео часто бывают странными. Иногда это «чуть мимо логики», иногда «почему у персонажа три пальца и философский кризис в глазах». Ошибки, визуальные сбои, нелепые сюжеты - всё это попадает в детский просмотр. И если взрослый просто перелистнет очередной нейрослоп, то ребёнок просто принимает это как норму.
А дальше включается вторая часть системы - алгоритмы. Они вообще не склонны к морали. У них есть только один критерий: смотрят или нет. Смотрят - значит, надо продолжать. И вот уже странный ролик превращается в целую линейку рекомендаций, где логика окончательно уходит в отпуск без содержания.
Проблема в том, что ИИ-контент не всегда воспринимается как что-то «отдельное». Он выглядит как обычное видео, только чуть более… непредсказуемое. И именно эта непредсказуемость и беспокоит специалистов: у детей ещё нет фильтра, который говорит «это просто сгенерированная фантазия, не реальность».
Что предлагают?
Во-первых, простую и честную маркировку ИИ-контента, чтобы было видно сразу.
Во-вторых, возможность для родителей полностью отключать такие видео в детских профилях.
В-третьих, убрать подобные ролики из детских разделов и рекомендаций. Потому что «детское» и «сгенерированное любым сумасшедшим, дорвавшимся до клавиатуры» - это, мягко говоря, разные категории.
И отдельно - пересмотреть саму политику продвижения такого контента, потому что сейчас он чувствует себя в рекомендациях слишком уверенно.
Есть и более широкий контекст. Исследования по ИИ-игрушкам для детей до пяти лет показывают, что технологии пока не дотягивают до задач раннего развития и могут мешать формированию базовых навыков общения и эмоций. То есть «умное» не всегда означает «полезное».
И здесь возникает довольно честный вопрос: если платформа зарабатывает на внимании, а алгоритм его эффективно добывает, кто в этой цепочке отвечает за содержание?
Представители индустрии уже намекают: без внешнего давления серьёзных изменений ждать сложно. Максимум - аккуратные настройки, которые не трогают основу системы.
И вот в этом месте становится очевидно: проблема не в том, что технологии стали слишком сложными. Проблема в том, что правила за ними просто не успевают.