160,7 тыс подписчиков
В Financial Times вышел материал, где затрагивается одна из самых болезненных тем онлайн-эпохи — психологические эксперименты над пользователями. Ученые ведущих мировых университетов бьют тревогу по поводу вреда, который могут нанести подобные негласные исследования.
Профессор Северо-Западного университета в Иллинойсе рассказал об исследовании, в котором ученые изучили, как алгоритмы цифровой платформы по поиску работы могут повлиять на возможности трудоустройства. Когда участникам эксперимента рассказали о том, что они были подопытными кроликами платформы, большинство из них испытали разочарование и презрение к тем, кто использовал их персональные данные для экспериментов.
В онлайн-среде такие исследования не редкость. Их проводят все корпорации, у которых есть доступ к массивам данных о пользователях платформ и приложений. Например, Amazon обвиняли в использовании больших данных с целью повышения цен на продукцию и подавления конкуренции. Uber на основе больших данных формировала свой алгоритм оплаты проезда. А Google постоянно калибрует результаты поисковой выдачи.
В 2022 году The New York Times рассказала о серии социальных алгоритмических экспериментов, которые команда LinkedIn в течение пяти лет проводила с аккаунтами 20 млн пользователей по всему миру, держа их в неведении. Предположительно, эти тесты могли прямо повлиять на карьеру пользователей, поскольку ограничивали возможности некоторых из них связаться с потенциальными работодателями.
Набирающие популярность нейросети дают еще больше поводов для беспокойства, поскольку за счет них снижается стоимость создания контента для цифровых экспериментов. Это приводит к тому, что их количество растет в геометрической прогрессии, а сами опыты практически никак не регулируются.
Ученые сходятся во мнении, что проблема не в самих исследованиях, а в том, что они проводятся при участии тысяч людей без их ведома. В большинстве стран до сих пор отсутствует нормативная база, регулирующая онлайн-эксперименты, которые корпорации могут проводить с данными пользователей. И усложняется все тем, что создание такой базы может растянуться на годы — сроки, несопоставимые со скоростью развития алгоритмов на базе искусственного интеллекта.
1 минута
12 марта 2024