№240 (320 стр) Кэти О'Нил "Убийственные большие данные. Как математика превратилась в оружие массового поражения"
https://t.me/mlnpages
#1mlnpages
Кэти О'Нил - профессиональный математик, финансовый аналитик, которая сама участвовала в построении моделей, основанных на больших данных, для извлечения прибыли огромными корпорациями. При этом отличительной чертой Кэти является отсутствие слепой веры во всемогущество моделей больших данных. Напротив, она стала одним из апологетов их справедливого и человеко-центрированного использования.
На страницах книги Кэти вводит и оперирует таким понятием, как ОМП - "оружие математического поражения". Большинство математических моделей загадочны, а принцип их работы - непонятный ни для кого, кроме высшей касты - математиков и специалистов в области компьютерных наук. Другими словами, это те самые "черные ящики", выдающие результат, и очень частно не до конца ясно руководствуясь какими соображениями.
Кэти приводит ряд примеров разработанных и принятых на вооружение моделей, которые ведут к образованию негативной петли обратной связи. Здесь и очень известные системы рейтингования университетов, и предсказания рецидивов преступников, и программы для автоматической обработки резюме, и многие другие.
Вопрос в том, что, как правило, занявшие последние места в таких рейтингах субъекты остаются там практически навечно, т.к. ожидания и настроение пользователей их услуг, будь то будущие студенты или работодатели, усиливает отрицательное отношение к ним.
Автор отстаивает точку зрения о том, что все подобные модели заточены на эффективность, которая равносильно принесенной прибыли корпорациям. С одной стороны, это оправданно, с другой стороны, это делается в ущерб справедливости, особенно в вопросах, напрямую связанных с человеческими судьбами.
Предлагаемая логика в том, что нельзя всецело уповать на математический гений или на всезнание больших данных, верификация моделей должна быть не только посредством математических метрик, но и здравого смысла, моральных установок.
Субъективная оценка: 7,5/10
#1mlnpages
p.s.
Добро пожаловать на наш телеграм-канал: https://t.me/mlnpages