Я, как журналист и обозреватель, провел бесчисленное количество часов, изучая, как технологии меняют нашу жизнь. Но ничто не вызывает такого острого конфликта надежды и страха, как история с автомобилями на автопилоте.
Мы живем в эпоху, когда отдать управление машиной становится нормой. Навигатор в телефоне говорит мне свернуть, и я сворачиваю, не задумываясь. Он знает лучший маршрут, он объехал пробку, он сэкономил мне время. Чудо!. Но знаете, какая мысль не дает мне покоя?
Главная тайна современных авто, о которой молчат дилеры: ваш автомобиль вам лжет. Не потому, что он злой или хочет навредить, а потому, что он не может сказать вам правду о своих ограничениях, о том, чего он не знает, и о том, что для него вы всего лишь ценный ресурс.
Давайте честно: разве не в этот момент, когда мы передоверяем машине управление в сложной ситуации, мы обнаруживаем, что она не так умна, как мы ей приписали? Мы склонны к антропоморфизации искусственного интеллекта. Это такой сложный термин, означающий просто: мы наделяем машину человеческими качествами, эмоциями, сознанием. Мы смотрим на ее плавное вождение по шоссе и думаем: "Она понимает мир". Но в действительности ИИ это в первую очередь технический продукт. У него нет души, нет сознания, нет желаний, а есть только математика.
Почему мы верим «идиоту с компьютером»?
Проблема начинается с того, что компьютеры проникают в нашу жизнь под маской объективности. Мы говорим: "Компьютеры лучше, потому что они объективнее людей". Мы убеждены, что посредством вычислений можно сделать мир рациональнее. Но это огромное заблуждение.
Когда машина начинает барахлить, мы виним себя, а не тысячи строк недоработанного кода. А ведь проблемы чаще всего кроются именно в коде, в плохом оборудовании или в том, что разработчики просто не учли, как реальные люди будут пользоваться этой штукой.
ИИ не обладает здравым смыслом и интуицией. Он отлично справляется с 95% рутинных ситуаций на дороге. Но что происходит, когда на дорогу выскакивает ребенок в костюме на Хэллоуин, или женщина на электрическом кресле-каталке гонится за уткой?. Это так называемые «пограничные случаи» или «длинный хвост» проблем. Человек адаптируется к странностям, потому что у нас есть разум, интуитивная физика и психология мы можем предсказать мотивы и цели других участников движения. Компьютеры не могут. Они просто не имеют в своей гигантской, но все же конечной базе данных примеров, как реагировать на подростка на гироскутере, выскакивающего наперерез.
Ошибка алгоритма не случайность. Известен случай, когда беспилотный автомобиль Tesla в режиме автопилота врезался в стоящую пожарную машину или автомобиль скорой помощи. Можно добавить датчики и наборы данных, чтобы научить систему распознавать пожарную машину, но что, если рядом окажется эвакуатор? Или строительная техника? Проблема будет возникать снова и снова, потому что нельзя запрограммировать все неожиданные ситуации.
Цена доверия, или Дилемма вагонетки
Автомобиль без водителя не просто техническая инновация; это, по сути, движущийся этический эксперимент. Придется ли машине принимать моральные решения? Да. Вспомните классическую «проблему вагонетки»: переехать ли одного человека или бездействовать и убить нескольких?.
Когда инженеры пытались решить эту задачу для беспилотников, ответы, мягко говоря, не радовали. Однажды стало известно, что программное обеспечение Mercedes было запрограммировано только на спасение водителя и пассажиров. Представьте сценарий: машина мчится на толпу детей на автобусной остановке, а рядом дерево. Компьютер выберет наезд на людей, потому что это, вероятно, гарантирует выживание водителя.
Кто сядет за руль, если система запрограммирована пожертвовать вами?. Общественность оказалась куда более этичной и сознательной, чем эти системы, заявив, что они никогда бы не купили машину, которая запрограммирована жертвовать прохожими. В беспилотных автомобилях смерть это не «баг», это одна из характеристик, которую кто-то должен запрограммировать.
Именно поэтому инженеры и разработчики стоят перед сложнейшим выбором: создать систему, которая теоретически спасет миллионы жизней, но при этом будет вынуждена делать мучительный моральный выбор в конкретных случаях. И кто будет нести ответственность, когда что-то пойдет не так? Производитель? Программист? Владелец?. Производители, естественно, боятся судебных исков, поэтому эта проблема остается одним из ключевых барьеров на пути к полной автономии.
Что на самом деле ваш автомобиль продает?
Дилеры увлеченно рассказывают о функциях автопилота, но умалчивают о другом: ваш автомобиль это золотая жила данных.
Автомобиль превратился из простого транспортного средства в информационный узел и узел транзакций.. Американцы тратят в среднем почти час в день на дорогу, и этот час доступа к вашему вниманию и поведению стоит сотни миллиардов долларов.
Ваш автомобиль непрерывно собирает данные о вашем стиле вождения, о своем техническом состоянии, о местоположении и даже о том, что происходит внутри салона, благодаря камерам и микрофонам. Эти данные невероятно ценны. Они могут быть использованы:
- Для страховщиков: Расчет рисков теперь может учитывать, по каким дорогам вы ездите чаще, какова средняя стоимость запчастей в регионе, и ваш личный стиль вождения.
- Для маркетологов: Автономные автомобили будут оснащены приложениями и услугами. Представьте: вы едете, видите рекламу нового кафе, нажимаете кнопку «Поехать туда» (как уже происходит в некоторых навигаторах), и машина вас везет.
- Для работодателей и властей: Существует обоснованный страх, что страховые компании или работодатели будут использовать эти данные (включая результаты глубокого обучения) для принятия жизненно важных решений о размере страховки, премий или сохранении рабочего места.
Таким образом, автомобиль перестает быть просто вашей собственностью. Он становится частью всеобщего Интернета вещей (IoT), и этот переход несет угрозу конфиденциальности. Компании заинтересованы в том, чтобы вы сохраняли «добровольную слепоту» и не осознавали, сколько информации вы им отдаете.
Можно ли вернуть контроль?
Нам обещают, что ИИ облегчит жизнь: он избавит нас от аварий, очередей в сервисном центре и от скучных дел. Я вижу в этом огромный потенциал!
Но чтобы не попасть в ловушку, нам нужно изменить подход. Вместо того чтобы строить системы, которые заменяют человека, нам нужны те, которые дополняют его (так называемое усиление интеллекта).
Нам нужны решения, ориентированные на человека, а не на машину..
Для этого требуется:
- Прозрачность (Объяснимость): Мы должны понимать, почему алгоритм принял то или иное решение. Почему мне отказали в кредите? Почему машина свернула?. В сферах, где цена ошибки высока (медицина, юриспруденция, вождение), нам нужны «комментаторы» эксперты, которые могут объяснить поведение ИИ неспециалистам.
- Сохранение контроля: Технологии, которые дают человеку ощущение контроля, вызывают больше доверия. Вместо того чтобы полностью устранять водителя, инженеры могли бы переосмыслить его роль, давая возможность задавать высокоуровневую стратегию поведения для автомобиля, при этом оставляя органы управления в руках человека.
- Критическое мышление: Нам нужно перестать относиться к каждому ответу ИИ как к истине в последней инстанции. Необходимо повышать цифровую грамотность и всегда критически перепроверять информацию.
Нельзя полагаться на то, что «волшебная пыльца» и новые версии все исправят. Нам нужно научиться задавать более высокие требования к качеству технологий и помнить, что код пишут люди со своими предубеждениями и ошибками.
Мы стоим перед выбором. С одной стороны, невероятные возможности: повышение стандартов жизни, безопасность, эффективность. С другой риск усиления неравенства, потери рабочих мест и тотального контроля.
Готовы ли мы, чтобы, добиваясь "идеальных" показателей эффективности и безопасности, наши машины загнали нас в угол, где единственным "недостатком" останется наша непредсказуемая, но живая человеческая натура?