Недавно проведенное американскими учеными исследование показало, что алгоритмы искусственного интеллекта (ИИ) могут определять расу не только по цветным изображениям глазного дна, но и по картам сосудов сетчатки в оттенках серого, что невозможно для человека. Это было установлено специалистами из штата Орегон (США) в ходе анализа отобранной выборки из когортного исследования «Визуализация и информатика при ретинопатии недоношенных».
Всего было отобрано 4095 цветных изображений глазного дна младенцев (n = 245) черной и белой расы для обучения, проверки и тестирования 40 моделей сверточной нейронной сети (CNN). Далее все цветные изображения были сегментированы в карты сосудов сетчатки (RVMS) в оттенках серого, которые, в свою очередь, многократно преобразовывались (с помощью пороговой обработки, бинаризации, пр.), чтобы исключить любую потенциальную информацию о пигментации, которая была бы полезна при определении расовой принадлежности (SRR). Несмотря на все эти усилия модели практически идеально определяли SRR.
Даже изображения, которые для невооруженного глаза казались лишенными информации, по мнению авторов исследования, сохраняли для ИИ прогностическую информацию.
Полученные результаты обеспокоили авторов исследования в связи с риском возникновения потенциальных расовых предубеждений у ИИ, которые в конечном итоге могут повлиять на диагностические решения и дальнейшее лечение. Основными выводами, сделанными ими стали: • модели ИИ могут изучать особенности, связанные с расой, и делать выводы о ней; • это увеличивает риск расовой предвзятости при выполнении диагностических задач.
