Модели генерации изображений работают усилителями предубеждений
Три года назад я рассказывал об интереснейшем американо-британском исследовании, обнаружившем искривление пространства субъективной реальности.
Его источник — социальные сети. А его суть — индуцируемая алгоритмами деформация (изменение кривизны) субъективного инфопространства миллионов людей.
И «кривизна» здесь не гипербола, а измеряемый параметр, характеризующий искривление инфопотоков.
Только опубликованный препринт интереснейшего американо-итальянского исследования делает следующий шаг, приближающий нас к общей теории кривизны субъективного инфопространства цифровых медиа.
Т.е. по сути, — к своего рода, общей теории относительности ноосферы (ибо по ходу тотальной оцифровки реальности цифровые медиа становятся ключевым элементом ноосферы).
Авторы исследовали предубеждения, которые проявляются в моделях генерации изображений типа Stable Diffusion и DALL-E.
- 1-й результат исследования — не удивителен и лежал на поверхности: генераторы изображений увековечивают предубеждения, прорастая навечно в тысячах приложений и становясь частью новой цифровой реальности.
- 2-й результат — не то чтобы совсем сюрприз, но уж больно тревожен: генераторы изображений усиливают предубеждения (например, они имеют тенденцию отображать более острые предубеждения, чем базовые наборы данных, используемые для обучения моделей).
Механизм искривления генераторами изображений субъективного инфопространства миллионов людей прост и непреодолим своей положительной обратной связью:
- человеческие предубеждения, всегда содержащиеся в обучающих наборах данных, порождают предубеждения моделей генерации изображений (чем больше предубеждений в данных, тем больше предубеждений у моделей);
- предубеждения моделей обостряются их алгоритмами;
- обостренные предубеждения моделей влияют на миллионы людей, увеличивая их предубеждения;
- переход к п. 1
Комментируя эти результаты, Джек Кларк написал, что это не столько техническая проблема, сколько социотехническая. И это действительно так.
Поскольку проблема технически неустранима, начнутся политические баталии о том, какие предубеждения «правильные» для различных моделей, а какие нет.
И все это кончится полной идеологизацией ноосферы: подходов, определяющих «правильные» предубеждения, и моделей на их основе, будет столько же, сколько идеологий на планете.
Закончу той же фразой, что и 1-й пост про ОТО ноосферы (теперь это стало еще более очевидно).
Антиутопия будущего — не Черное зеркало, а кривое.
#Модели Генерации Изображений
________________________
Ваши шансы увидеть мои новые посты быстро уменьшатся до нуля, если вы не лайкаете, не комментируете и не делитесь в соцсетях