Людям совершенно не нравится, когда нейросети принимают решения по таким вопросам, как кредитование, прием на работу или аренда жилья.
Автоматизированное принятие решений на основе ИИ сегодня провозглашается следующим большим прорывом, который позволит экономить время и ресурсы. Однако людям совершенно не нравится, когда нейросети принимают решения по таким вопросам, как кредитование, прием на работу, страхование или аренда жилья.
Организация Electronic Frontier Foundation провела масштабное исследование совместно с Consumer Reports, в ходе которого выяснилось, что людям не нравится, когда ИИ используется для принятия решений о найме на работу, банковских услугах, аренде жилья, медицинской диагностике и слежке.
Среди более чем 2000 опрошенных 72% заявили, что им было бы «неприятно», если бы ИИ сканировал их лица и анализировал ответы на вопросы во время собеседования. 45% отметили, что им «очень неприятна» такая идея.
Примерно две трети респондентов выразили негативное отношение к использованию нейросетей финансовыми учреждениями для определения возможности получения кредита.
Столько же опрошенных заявили, что они против использования ИИ арендодателями для определения пригодности арендаторов, а почти 40% отметили, что им «очень не нравится» такая практика.
Более половины респондентов сказали, что им неприятно использование искусственного интеллекта для наблюдения и распознавания лиц, а около трети выразили, что им это «очень не нравится».
На вопрос о приемлемости использования ИИ в медицинской диагностике и планировании лечения половина респондентов ответила отрицательно.
Подавляющее большинство опрошенных – около 83% – хотели бы знать, на каких данных обучались алгоритмы, принимающие решения, а 91% хотели бы иметь возможность корректировать эти данные, если они ошибочны. Учитывая, что ИИ часто ошибается и действует дискриминационным образом, эти опасения, вероятно, не беспочвенны.
Несмотря на такие рациональные и здравые опасения, некоторые компании и правительства настойчиво стремятся внедрять эту зарождающуюся и подверженную ошибкам технологию, чтобы сократить затраты на человеческий труд.
Источник - https://er10.kz/read/it-novosti/ljudi-ne-ljubjat-kogda-nejroseti-prinimajut-reshenija/