В мае в Twitter заявили, что прекратят использовать алгоритм искусственного интеллекта, который, как выяснилось, чаще показывает «белые» и женские лица при автоматическом кадрировании изображений.
В ходе конкурса по проверке программы ИИ на предмет предвзятости выяснилось, что тот же алгоритм, который определяет наиболее важные области изображения, также различает их по возрасту и весу и предпочитает текст на английском и других западных языках.
Богдан Кулинич (аспирант по компьютерной безопасности в EPFL в Швейцарии) выяснил, что алгоритм кадрирования изображений Twitter предпочитает более худых и молодых людей. Парень использовал технику дипфейков, чтобы автоматически генерировать лица, а затем протестировал алгоритм кадрирования. «Чем тоньше, моложе и женственнее образ, тем больше ему будут отдавать предпочтение», - заявил Патрик Холл, главный научный сотрудник BNH, компании , занимающейся консалтингом в области искусственного интеллекта, один из судей конкурса. Другие участники конкурса обнаружили иные нюансы, связанные с предвзятостью алгоритмов. Некоторые отмечают, что алгоритм был предвзят по отношению к людям с белыми волосами. Еще один участник показал, что алгоритм предпочитает латинский текст арабскому письму.
До сих пор предпринималось лишь несколько попыток регулировать ИИ на предмет потенциальной предвзятости. Например, в Нью-Йорке предложили обязать работодателей раскрывать информацию о том, когда они используют ИИ для отбора кандидатов на работу и проверки их программ на предмет дискриминации. ЕС также предложил радикальные правила, которые потребовали бы более тщательного изучения алгоритмов ИИ. В апреле 2020 года Федеральная торговая комиссия призвала компании рассказать клиентам о том, как модели искусственного интеллекта влияют на них; годом позже в ведомстве отметили, что могут «привлечь бизнес к ответственности», если он не раскрывает информацию об использовании ИИ, или если ИИ будет замечен в предвзятости.
/ по материалам Wired /