Я был там, по ту сторону экрана. Я сидел за столом, окруженный блестящими мониторами и людьми, которые говорили о «трансформационном росте» и «монетизации пользовательских взаимодействий». Но по сути, моя работа заключалась в одном: превращать вашу жизнь в деньги.
Не заблуждайтесь. Когда-то мы наивно думали, что компьютеры в первую очередь заменят рабочих на фабриках, а работники умственного труда будут в безопасности. Оказалось, всё ровно наоборот: роботы могут собирать автомобили, но алгоритмы машинного обучения с легкостью вытеснили специалистов по маркетингу и кредитных аналитиков. Главная трансформация, которую принес искусственный интеллект (ИИ) это не роботы-пылесосы, а возможность делать задачи дешевле, быстрее и точнее, чем человек.
Основная причина, по которой технологические гиганты вроде Google, Amazon и Facebook показывают феноменальный рост, кроется в одном простом, но пугающем факте: ваши данные это самое ценное сырье четвертой индустриальной революции, это новая нефть.
Как мы заключили сделку с дьяволом?
Технологии, о которых мы говорим, не появились на пустом месте. Они стали возможны благодаря тому, что мы, пользователи, согласились на, казалось бы, простой обмен: бесплатная услуга в обмен на нашу информацию.
Помните, когда появился интернет, мы мечтали о децентрализованном, свободном пространстве. Но очень быстро корпорации перевели большую часть нашей активности в свои закрытые «садики» приложения и социальные сети, которые работают по принципу «только для чтения» и «только для сбора данных».
Что они собирают? Буквально всё. Не только то, что вы пишете или ищете, но и каждую посещенную вами страницу, время, проведенное на ней, ваши покупки (даже в обычных магазинах, если у вас есть карта лояльности), ваше местоположение, ваши контакты. Они собирают данные даже о клиентах, которые расторгли контракты, чтобы с помощью ИИ понять, почему люди уходят, и предотвратить это в будущем.
Взамен нам предложили неимоверное удобство. Навигатор выбирает кратчайший маршрут, помощник в магазине предлагает то, что вы точно захотите купить, а онлайн-сервисы предвосхищают ваши желания, поскольку уже знают о вас больше, чем вы сами.
Мы обменяли самый ценный актив XXI века свою частную жизнь на удобные, но «бесплатные» сервисы, а корпорации стали властелинами цифровой вселенной, обладая беспрецедентной полнотой власти над потоками социально значимой информации.
Неужели мы действительно согласны на слежку?
Самая большая проблема, как мне кажется, в том, что большинство людей не осознают, на что именно они дают согласие, нажимая кнопку «Принимаю» под километровым текстом пользовательского соглашения. Эта «юридическая абракадабра» специально создана, чтобы скрыть тот факт, что вы добровольно отказываетесь от прав, которые никогда бы не отдали в общении с живым человеком.
Осознанное согласие? О чём мы говорим, если, по оценкам экспертов, технологические гиганты знают о нас гораздо больше, чем наши самые близкие родственники, и, возможно, даже мы сами.
Благодаря Интернету вещей (IoT) и носимым гаджетам (например, умным часам) они собирают информацию о вашем пульсе, температуре, физической активности, и даже о вашем эмоциональном состоянии. ИИ анализирует макро- и микровыражения лица, интонации голоса, частоту мигания, чтобы распознать эмоции, которые вы пытаетесь скрыть.
Системы ИИ способны точно предсказать наши желания и даже эмоции, используя наши же данные, которые мы отдали, не читая «мелкий шрифт».
Это больше не просто таргетированная реклама носков! Это пугающая мысль о том, что где-то уже есть ваша виртуальная копия ваш цифровой аватар, который живет в дата-центрах и о котором компании знают всё: ваш уровень дохода, национальность, сексуальную ориентацию, аддикции и даже семейные тайны.
Почему мы не можем просто «выключить» их?
Мы уже видим, как эта концентрация власти оборачивается против нас. Когда алгоритмы обучаются на данных, они неизбежно впитывают и отражают социальные предубеждения, которые были заложены в эти данные.
Это приводит к дискриминации. Например, алгоритм, оценивающий кредитные риски, может решить, что принадлежность к определенному социальному меньшинству повышает вероятность дефолта, и вы получите отказ или худшие условия. А если ИИ, предназначенный для медицины, решит, что через несколько лет вы заболеете, оправдают ли врачей, которые откажут вам в лечении? Это сложнейшие этические дилеммы, и ставки здесь невероятно высоки.
Но еще опаснее, когда алгоритмы начинают активно формировать наше мировоззрение. Социальные сети не просто показывают нам новости; они фильтруют и подбирают контент так, чтобы он максимально соответствовал нашим уже сложившимся политическим взглядам, создавая пресловутые «эхо-камеры».
Результат? Мы видим мир максимально удаленным от его центра тяжести. Информацией легко манипулировать, что подрывает доверие к СМИ и, как мы убедились, может влиять на выборы.
Корпорации стали неподотчетными «серыми кардиналами», чьи алгоритмы формируют наше мировоззрение, усиливают социальное неравенство и даже влияют на выборы.
Почему же мы не уходим? Потому что это стало частью нашей жизни. Отказ от этих технологий кажется равносильным потере конкурентоспособности. К тому же, нам сложно отказаться от персонализированных услуг, которые с каждым днем становятся всё лучше и адаптированнее под нас.
Есть ли у нас шанс вернуть контроль?
Технический прогресс неостановим. Но если мы не хотим, чтобы наше общество пошло по худшему сценарию, нам нужна фундаментальная трансформация: мы должны вернуть контроль над своими данными.
В Европе, например, принят Общий регламент по защите данных (GDPR), который требует нашего явного согласия и дает право требовать удаления информации. Но загвоздка в том, что если мы отнимем у ИИ «львиную долю данных», он просто поглупеет или перестанет работать.
Нужны новые, более радикальные подходы, которые бы не противопоставляли удобство и конфиденциальность.
- Прозрачность и подотчетность: Нам нужно требовать, чтобы данные, которые легли в основу каждого решения, фиксировались, а алгоритмы были «открытыми». Это позволит нам увидеть, честен ли алгоритм, принимающий за нас судьбоносные решения.
- Децентрализация данных: Технология распределенного реестра (блокчейн) предлагает решение, где мы могли бы стать собственниками своих данных и контролировать доступ к ним с помощью личного аватара. Этот «виртуальный я» смог бы выдавать только минимально необходимую информацию (например, «да» или «нет» на вопрос о возрасте) и даже получать за это микрокомпенсацию.
- «Доверенный ИИ» и конфиденциальные вычисления: Мы можем искать надежные организации (например, некоммерческие или децентрализованные), чьи интересы совпадают с нашими. Более того, уже существуют технические методы (федеративное обучение), которые позволяют обучать ИИ на зашифрованных данных, не раскрывая их центральному владельцу.
Нам нужно требовать прозрачности, чтобы видеть «информацию на входе» и понимать, честен ли алгоритм, принимающий за нас судьбоносные решения.
Как сказал один эксперт, нам нужно построить интернет, который будет «распределенным, гибким, раздражающим правительства стран и свободным в лучшем смысле этого слова». Это потребует усилий и отказа от старой бизнес-модели, основанной на массовом наблюдении.
Мы, как общество, находимся перед выбором: продолжать жить в мире, где наш разум и наши действия это просто товар, приносящий прибыль горстке корпораций? Или мы, наконец, возьмем контроль в свои руки, используя новые технологии для создания справедливой и прозрачной цифровой экономики?
Какую историю вы хотите рассказать своим детям: о том, как мы сдались, или о том, как мы боролись за право быть человеком, а не набором данных?