Автоматические алгоритмы кадрирования фотоснимков в ленте популярной соцсети Twitter очевидно склонны наблюдать в ней девушек стройных очертаний. Таково наблюдение ученого Богдана Кулинича из Федеральной политехнической школы Лозанны, сделанное им во время конкурсной программы, выявлявшей необъективность алгоритмов данной соцсети.
Аспирант в сфере IT-безопасности Кулинич применил технологию дипфейка, чтобы в автоматическом режиме генерировать образы разнообразных лиц. После этого аспират проверил реакцию алгоритма, обрезающего изображение, чтобы выяснить его реакцию на искусственно созданные фото.
В результате ученый установил следующее: система кадрирования фотоснимков главным образом выводит для просмотра изображения молодых девушек стройных форм, в то время как прочие люди и предмет кадрируются и уводятся непосредственно из поля зрения.
Оказалось что чем более стройна и женственна девушка на фото, тем больше у нее вероятность оказаться в ленте Твиттера, считает глава научного отдела консалтинговой компании Патрик Холл.
Сотрудник отдела IT-безопасности OpenAI Ариэль Герберт-Восс утверждает, что выявленные в ходе исследований специфические свойства алгоритма – следствие личностных предпочтений людей, с помощью которых собиралась информация для обучения модели ИИ. Он уверен, что после скрупулезного анализа алгоритмов удастся преодолеть такого рода особенности поведения ИИ-моделей.
Напомним, дебютный конкурс по выявлению предвзятости алгоритмов в Твиттере проходил с 30 июля по 6 августа текущего года. Результаты мероприятия были обнародованы в ходе конференции Def Con AI Village. Победивший конкурсант Богдан Кулинич был премирован $3500.