3025 подписчиков
#odd_facts #generative #AI
Вслед за волной популярности генеративных моделей которая захлестнула соцсети — аватарки из Lensa и картинки нейросетей Midjourney и Stable diffusion — начинается откат, волна неприятия технологии. Поначалу нейросетевые картинки беспокоили только художников и дизайнеров, которые опасались (кажется, справедливо) что роботы обесценят их работу. Теперь лагерь недовольных пополняется, причем с весьма неожиданными претензиями. К примеру, некоторые женщины (в частности, автор этой статьи), остались недовольны сексуализацией аватарок от Lensa (часть из них полуобнаженные или грудью в бикини наперевес). Такие же жалобы — на любые картинки по запросу «девушка азиатского происхождения», изготовленные нейросетью Stable diffusion. Дело в том, что в набор изображений, на которых обучалась модель таков, часто встречается порнография, размеченная признаком "asian". Еще одна претензия к нейросетям: они попросту стали работать очень хорошо. Cгенерированные изображения с лицами пользователей практически невозможно отличить невооруженным глазом от настоящих фотоснимков. В сети можно найти снимки почти любого их нас и, как показали журналисты ресурса Arstechnica, с помощью нейросетей крайне легко испортить кому-нибудь из нас репутацию. Для женатого человека достаточно сгененрировать изображение на котором рядом с ним — обнаженная девушка, для кого-то другого это может быть картинка военной форме и с оружием в руках. В принципе, в нейросети сейчас встроены механизмы защиты. В изображение "зашиты" метки того, что это ненастоящая фотография. Но невооруженным глазом эти метки не обнаружить, а репутационный урон после публикации в соцсетях будет почти мгновенным. Более того, существующие на сегодняшний момент системы защиты можно обойти. Так что в Китае, к примеру, сейчас запретили любые генеративные нейросети, которые не используют такие скрытые «водяные знаки», а пользователи таких нейросетей должны регистрироваться сами и регистрировать результаты своей деятельности.
༼つ◕_◕༽つ @geekorama
1 минута
13 декабря 2022
40 тыс читали