В адрес руководства Google и YouTube направлено письмо с требованием оградить детей от низкокачественных роликов, созданных искусственным интеллектом. Среди подписантов – более 200 специалистов по работе с детьми, правозащитников, педагогов и психологов. Они обвиняют Google в продвижении контента низкого качества, который клепается нейросетками в промышленных масштабах ради монетизации.
На самом деле, проблема неконтролируемого распространения ИИ-слопа обозначилась еще в прошлом году – тогда исследователи оценивали долю такого контента в рекомендациях Youtube Shorts на уровне 21%. Платформа отреагировала на эту историю удалением пары-тройки каналов, на смену которым тут же пришли новые. Поэтому сейчас общественники требуют системного решения проблемы: в частности, дать родителям возможность полностью выключать показ ИИ-контента детям и запретить его рекомендации.
Смогут ли авторы письма добиться своего, пока сказать сложно. Очевидно, что на детском ИИ-слопе зарабатывают не только те, кто использует нейросети для производства контента (и, что самое неприятное, ставит ИИ задачу не только отрисовать картинку, но сделать ее максимально залипательной, буквально препарируя детскую психику). Большую часть рекламных денег кладет в свой карман как раз платформа – и добровольно отказываться от этого вряд ли захочет.
С другой стороны, подобная общественная инициатива пять лет назад привела к остановке разработки Instagram Kids – специальной детской версии запрещенного приложения. Возможно, если бы этого не случилось, сейчас мы бы жили в еще худшей версии этого мира.