Время чтения 9мин
Технология формирует то, как мы взаимодействуем каждый день. Мы общаемся при помощи FaceTime с членами своей семьи по всей стране, мы отправляем снимки через Snapchat нашим друзьям, чтобы сообщить им, где мы и что делаем.
Но иногда мы не понимаем, что платформы и данные, которые подталкивают нас к взаимодействию, не всегда делают это объективно. Наши взаимодействия все чаще формируются с помощью алгоритмов, и эти коды разрабатываются людьми - людьми, которые буквально пишут сценарий для способов, которыми технология заставит нас отмечать что-то, к лучшему или к худшему.
Практика преднамеренного направления поведения пользователя известна как «убеждающая технология», и она проникает в наши телефоны, наши дома и наши школы.
Лучший способ подумать об убеждающих технологиях - начать со знакового мебельного магазина Ikea. Сандра Бурри Грам-Хансен, доцент кафедры коммуникации и психологии в Ольборгском университете в Дании, говорит, что когда она хочет начать классную дискуссию по убеждающему дизайну, она начинает с примеров того, как этот розничный торговец направляет своих клиентов.
Burri Gram-Hansen: Когда вы входите в IKEA, всегда есть большая карта магазина Ikea. Она обычно синяя, и на ней будут желтые следы или что-то в этом роде. Но карта всегда создается таким образом, что кажется, что это такая короткая прогулка; вы можете добраться от входа до раздела кухни всего за двадцать маленьких точек на карте. Но в реальности вам нужно 40 минут, чтобы добраться до этого места. Но они дают чувство легкости в выполнении сложной задачи, уменьшая ее и облегчая нам доступ.
У них также есть принцип «туннелирования», со всеми освещенными стрелками на этажах. Конечно, вы могли бы бродить самостоятельно, но легче прикрепиться к туннелю и пойти по указателям стрелок.
Таким образом, все эти вещи происходят у них в магазине, и вы просто идете по ним. Вы не видите, что кто-то идет в неправильном направлении в ИКЕА.
Итак это происходит в физическом магазине. Но те же самые принципы могут применяться и, что еще важнее, в цифровой сфере. Один человек, изучающий способ отображения данных и как технология, может повлиять на поведение, это Маргарита Куихиус, дизайнер поведения в Лаборатории инноваций в Университете Стэнфордского университета, где исследователи ищут способы использовать дизайн поведения таким образом, чтобы продвигать привлечение. Другими словами, могут ли данные и технологии быть ориентированы на то, чтобы управлять людьми - или всем нашим обществом - в лучшем направлении?
Куихиус: Тема поведенческого дизайна была начата в Стэнфорде под руководством B.J. Fogg. Он также является отцом убеждающих технологий. Поэтому, когда вы думаете о том, как технологии, подобные мобильным телефонам, меняют поведение в масштабе, это было исследование, которое он делал в Стэнфорде в 90-х годах. И в то время его докторскую диссертацию он назвал «каптологией», потому что мы в плену технологий. И тогда название превратилось в убеждающую технологию.
И вот вышел iPhone, и мы знаем, как изменились наши жизни за последние одиннадцать лет с появлением iPhone. Мы можем видеть, как люди приняли поведение, которое было невозможно раньше. В любом месте от того, как наше внимание изменилось с технологией до риска с технологиями носимых устройств.
Хорошо, если вы можете сделать это с помощью бессмысленного поведения, с глупым поведением, можем ли мы также сделать это таким образом, чтобы продвигать мирное сосуществование. Поэтому Марк Нельсон и я начали с этого пути говорить: «Ну, что такое мирное сосуществование в этом веке - в этом цифровом веке?» И мы определили, что это действительно о том, насколько мы можем быть друг с другом, и насколько хорошо мы можем быть друг с другом посредством опосредованной технологии. И это может быть какая-то граница разниц, будь то пол, раса или национальность, язык или что-то еще. Поскольку мы живем так много в цифровом мире, то, как мы разрабатываем программное обеспечение и как мы разрабатываем технологию, внезапно влияет на то, как мы взаимодействуем друг с другом.
Оптимисты надеются на технологии в будущем. Но многие другие обеспокоены о том, что или кто проектирует «хороший» дизайн. Сафия Нобл является доцентом в Университете Южной Калифорнии и автором книги «Алгоритмы угнетения». Она изучает, как технологии и алгоритмы могут ухудшить социальное неравенство и предрассудки.
Нобл: меня интересуют такие вещи, как то, кто контролирует рассказы, которые влияют на наше общество, особенно с большими цифровыми медиа-платформами. И именно по этой причине я отслеживала, что происходит с ключевыми проблемами представительства, идеями справедливости вокруг сообществ и обнаружила, что я считаю, что это вредные способы воздействия этих технологий на идеи людей.
В сфере убеждающих технологий это интересно, потому что я думаю, что общественность не особенно осознает, что их убеждают. И, конечно, новости о Cambridge Analytica, использующие психографические данные людей, я думаю, что это стало огромным шоком для большинства людей.
Во многих отношениях я считаю, что это обычное дело. Я имею в виду, что Cambridge Analytica является лишь одной из многих фирм, которые заинтересованы в том, чтобы убедить людей покупать продукт или быть заинтересованы в попытке создания новой услуги. Традиционная модель рекламы на самом деле является частью большинства цифровых технологий, с которыми мы сотрудничаем.
В высшем образовании мы видим эти виды тихих реплик все время. Они в основном принимают форму подтасовки, эти текстовые сообщения или электронные письма, отправленные студентам, напоминающие им о важных предстоящих сроках или финансовой помощи, или просто чтобы проверить их оценки, чтобы посмотреть, опустились ли они и сигнализируют их, если они есть. Но Сандра Бурри Грэм-Хансен, профессор в Дании, утверждает, что подталкивание не обязательно оказывает продолжительное влияние после того, как эти подталкивания прекратились.
Бурри Грэм-Хансен: Я считаю, что основное отличие заключается в том, что убеждающие технологии сосредоточены на постоянном изменении поведения, в то время как подталкивание более активно фокусируется на мгновенном изменении поведения. И в тот момент, когда вы сталкиваетесь с подталкиванием, затем вас подталкивают к тому, чтобы делать что-то конкретное. Люди подталкиваются к мелочам, например, ожидают в правильном порядке очереди в ресторанах Ikea. Но дело в том, что так как они не обрабатывают то, что они делают, это не значит, что они внезапно очень хорошо и хорошо себя ведут, ожидая очереди, чтобы попасть в автобус или поймать поезд. Поскольку они не обрабатывают активность, которую они на самом деле делают, они просто делают это.
Нобл, профессор USC, делает еще один шаг дальше, утверждая, что в образовании подталкивание влияет не только на поведение студентов, но эти платформы и технологии работают двумя способами. Они также формируют восприятие и поведение персонала и преподавателей.
Нобл: Мы знаем, что, например, руководители приемных комиссий и представительства в университетских городках участвуют в крупномасштабных базах данных, которые помогают оптимизировать принятие решений для них. И я думаю, что мы можем думать об этом как о анализе множества разных факторов, которые студенты сообщают о своей деятельности, оценках и тестах, а также о том, кем они являются, и о ключевых словах, которые они могут использовать в своих эссе, - и затем доставляя ряд рекомендаций или идеальных кандидатов в университеты.
Здесь я думаю о действительно тревожных способах мышления о принятии студентов в университет. Потому что, конечно, есть много людей, которые должны пойти в колледж, и которые блестящие и у которых могут не быть правильных «ключевых слов», так сказать, на их фоне. Это не может служить оптимизацией для базы данных, которая ищет и анализирует свои профили. Таким образом, такие системы профилирования, которые мы видим выше, определенно требуют гораздо большего изучения. Они, безусловно, убеждающие решения по отношению к приему.
Сторонники убеждающего дизайна считают, что лучшим решением является научить пользователей тому, как технология влияет на них.
Бурри Грэм-Хансен: Не поймите меня неправильно, речь идет не о том, чтобы научить всех, как уметь проектировать убеждающие технологии. Но это о том, чтобы люди, особенно молодые люди, понимали принципы того, что делают эти разные системы. Потому что, если они понимают принципы убеждающих систем, то это также означает, что они могут отказаться от нежелательного влияния. И это в значительной степени означает, что они все еще контролируют ситуацию.
Но как насчет этих потенциально хороших приложений? Может ли быть способ, которым дизайн поведения может побудить преподавателя избежать некоторых из их собственных предубеждений? Может ли технология действительно изменить рутину ученика, чтобы они закончили курсы и свои программы на степень?
Нобл: Я думаю, что это также имеет непреднамеренный эффект, заставляющий их полагаться на эти вещи. Мы хотим, чтобы учащимся не нужно было получать подсказку, а на самом деле иметь возможность ее генерировать. И это действительно важный жизненный навык. Может быть, я представитель старой школы, когда речь идет о студентах. Я чувствую, что способность принимать много решений и управлять своими академическими успехами и путями действительно важна. И в той степени, что системы управления обучением и другие [системы] как бы формируют их поведение, я думаю, что в конечном итоге это, вероятно, сделает их более плохими.
Когда я думаю о таких вещах, как предубеждение, я не думаю, что это то, что вы можете автоматизировать из людей, например, давая им толчок или звонок или информируя их о том, как использовать эти технологии. Я не уверен, что поведение полицейского преподавателя будет таким, что вы получаете те результаты, которые вы ищете.
Один из наиболее эффективных способов уменьшить предвзятость и способность преподавателей участвовать в антирасистском поведении или в поведении, которое дает возможности женщинам и множественным полам в их классе, - это больше образования.
Я думаю, что вопрос с этими системами заключается в том, какова их связь с тем, чтобы лучше воспитывать и поддерживать процесс обучения на протяжении всей жизни для учителей и инструкторов? И для студентов?
Хорошо, так что нам делать?
Куихиус: безопасное развертывание. Вы говорите: «Хорошо, как мы внесем этические соображения при разработке технологии?» И «Так как мы собираем все эти данные в любом случае, как я заставлю инженеров искать шаблоны, которые необычны». Другая вещь, что вам нужна, это больше разнообразия в командах. Эти дизайнерские команды имеют интеллектуальные, культурные и социальные слепые пятна. Таким образом, разнообразие не связано с kumbaya (Кумбайа «Kum ba yah» -«Come by Here» - это духовная песня, впервые записанная в 1920-х годах. Он стал стандартной песней для костра в скаутских и летних лагерях и пользовался более широкой популярностью во время народного возрождения 1950-х и 1960-х годов. Первоначально песня была простым призывом к Богу прийти и помочь нуждающимся. Закон Кумбая: в любом разговоре, в котором некоторые участники имеют мнение левее других участников, кто-то с более консервативной позицией сравнивает мнение этого человека с наивностью «пения Кумбайя вокруг костра), разнообразие заключается в том, что вы рискуете своим продуктом, чтобы он не использовался так, как вы этого не предполагали.
Я думаю, что часть его предназначена для учреждений, для компаний, для клиентов, чтобы задавать эти вопросы. И сказать: «Мне нужно увидеть контрольный журнал». «Как могу я проверить, есть ли у меня вопрос?» «Если есть алгоритмический уклон, как я могу это проверить?» И нам нужно иметь доказательства того, что это было сделано по какой-то стандартной, некоторой сертификации.
Вы не можете быть инженером-строителем в штате Калифорния, не будучи зарегистрированным инженером, знающим, как делать сейсмически устойчивые здания. Мы должны иметь эквивалент этого с этими технологическими платформами. Особенно, когда они касаются людей.
Поэтому Икеа не единственный, кто это делает. Убеждающая технологи уже здесь, и она только будет расти. Кажется, возникает реальный вопрос: как этот рост происходит здоровым и продуктивным образом?
Нобл: Самое важное, что я узнал из своих собственных исследований, заключается в том, что все больше инвестировать в частные компании, чтобы обеспечить основу и инфраструктуру для обучения и знаний, вероятно, является шагом в неправильном направлении.
Кто-то разрабатывает технологии, которые могут убедить нас, и они должны быть прозрачными. Мы должны понимать этические рамки вокруг этих технологий. Мы должны понять, есть ли у нас возможность отказаться. Мы должны думать о том, может ли общественность пострадать от этих убеждений. И мы должны понимать их в краткосрочной и долгосрочной перспективе.
Не имея такой прозрачности и контроля, я думаю, что мы ставим под угрозу эти пространства образования.
Мы находимся в решающий момент, когда мы можем полностью охвачены некоторыми проектами, от которых мы не можем легко вернуться. Так что это правильное время чтобы поразмышлять.