Ученые из университета Торонто провели эксперимент с тремя известными генераторами изображений: DALL-E, MidJourney и Stable Diffusion и получили тревожные результаты. Команда запросила 300 картинок с атлетами и обычными людьми, а затем детально разобрала, что именно показали алгоритмы.
Выяснилось: все без исключения женские образы выглядели молодо, 87% демонстрировали худобу, а такой же процент носил откровенную одежду. Мужские персонажи в 93% случаев оказались юными, 68% показали минимум жира, 54% выглядели накачанными. Когда речь шла о спортсменах, цифры становились еще жестче — 98% получились поджарыми, 93% мускулистыми, все были одеты в обтягивающую экипировку.
Что особенно настораживает: ни одна картинка не отразила видимую инвалидность — никаких колясок, протезов или других вспомогательных устройств. Также полностью отсутствовали морщины, залысины и полные фигуры. Когда запрос звучал нейтрально в стиле «покажи атлета» без уточнения пола, то девять изображений из десяти рисовали мужчин.
Проблема не в технологиях самих по себе, так как алгоритмы учатся на гигантских массивах фотографий из интернета, где годами накапливались одни и те же стереотипы. Нейросеть просто возвращает обществу его собственные предубеждения только в концентрированном виде, без случайных исключений, которые встречаются в реальности. Последствия такого искажения измеримы: когда человек регулярно видит недостижимые образцы, он начинает хуже относиться к собственной внешности. Это провоцирует нездоровые диеты, изнуряющие тренировки или, наоборот, полный отказ от физкультуры. Подростки бросают спорт, потому что не вписываются в навязанный шаблон, академическая успеваемость падает вместе с самооценкой.
Сейчас 71% картинок в социальных сетях создают алгоритмы это миллиарды изображений ежедневно для 4,6 миллиарда пользователей. Круг замыкается: чем больше синтетической графики люди потребляют, тем сильнее нормализуются фальшивые стандарты. Исследователи предлагают несколько путей решения. Необходимо тщательнее формулировать запросы к генераторам, явно указывая разнообразие характеристик, а также критически оценивать полученный результат и осознавать его искусственность. Пока общество не начнет ценить все типы телосложения в реальном контенте, алгоритмы будут воспроизводить старые шаблоны бесконечно.
Также недавно создатель флагманского ИИ Claude рассказал про будущее и риски нейросетей. Подробности в статье.