Развитие искусственного интеллекта способно значительно упростить жизнь человечеству. Очевидно, что нужно и дальше инвестировать и развивать AI, поскольку его преимущества для людей очевидны, но каковы последствия потенциального замещения человеческого труда роботами? На данный момент за этим всем кроются огромные риски, ростки которых уже проявляют себя в тестовых моделях роботов с искусственным интеллектом.
Когда поколение советских подростков смотрели с упоением кинофильм «Приключения Электроника», для которого сакраментальным желанием было «стать человеком», они вряд ли думали, что искусственный интеллект и роботизация войдут в их жизнь через пару-тройку десятилетий. Так где же эта пресловутая «кнопка», нажав на которую мы сможем договориться с нашими творениями в будущем, когда они заполонят цивилизованный мир? Не станут ли наши помощники и союзники нашими тиранами и врагами? Пока футурологи и фантасты изощряются в разнообразных фантазиях и прогнозах, обратимся к фактам: какие ошибки совершает искусственный интеллект уже сейчас и о чем надо бы задуматься.
Опасный помощник
Вы наверняка задумывались о покупке робота-пылесоса? Так же размышляла и 52-летняя жительница города Чангвон из Южной Кореи, которая купила себе новомодный пылесос, работающий самостоятельно и без напоминаний. К сожалению, для нее все закончилось неблагополучно. Прилегла она по привычке вздремнуть на полу собственного дома, а в это время пылесос тихонько подобрался к ней и, приняв ее волосы за мусор, начал всасывать их. Неприятное зрелище – наблюдать в Youtube-ролике за тем, как парамедики вместе со службой по чрезвычайным ситуациям освобождают бедную женщину из рук работящего монстра. Но кто виноват? С одной стороны, сама хозяйка робота – не надо было ложиться на пол. Но с другой стороны, разве не должны были предвидеть нечто подобное создатели чудо-техники и маркетологи, выводя на корейский рынок своего супер-героя? Ведь для этой культуры вполне обычно спать на полу. Молодежь спит как на кроватях, так и на напольных коврах, а для пожилых людей отдыхать таким образом – естественно, поскольку традиции в Корее крепки. Поэтому было бы разумно более тщательно изучать все возможные риски и заблаговременно предупреждать покупателя о том, что использование робота без присмотра категорически запрещается.
Кто в ответе за тех, кого создали и запустили
Уже сейчас цивилизация задумывается над тем, кто и каким образом несет ответственность за «создания с искусственным интеллектом», особенно когда они выходят из-под контроля. Возьмем, к примеру, собак – прирученных, способных, активных, однако все равно на 100% непредсказуемых не меньше, а то и больше, чем любая компьютерная система. Хозяин животного понимает, что контролировать каждое действие питомца невозможно, но все же несет ответственность за собаку. И если она опасна для окружающих, именно владелец должен защищать от нее других. Если есть правовая система, применяемая к хозяевам домашних животных, то разве не таким же образом нужно возложить ответственность за своих «AI-питомцев» на их создателей? Разве не такая же система должна быть создана и внедрена в отношении умных роботов, ведь если кто-то вносит нечто непредсказуемо опасное в окружающий мир, то и зона ответственности за это должна быть определена соответственно.
Иначе может получиться как в случае с пермскими изобретателями. Инженер забыл закрыть дверь лаборатории, и опытный образец Promobot удалился от места дислокации более чем на 50 м, оказавшись на проезжей части большого города. Вышедшее из-под контроля изобретение двигалось, пока хватило заряда батареи. Вызвав 30-минутный ажиотаж и автомобильную пробку, чудо-робот стал героем прохожих, с радостью снимавших его на телефоны, пока не вмешалась Служба дорожного патрулирования. Сбежавшего гуляку-робота вернули изобретателям, благо, что аварии на дороге не случилось, и обошлось без проблем.
Мы – не рабы, роботы – не мы
Если обратиться к статистике, то проводятся исследования и опросы по основным опасениям людей в связи с развитием искусственного интеллекта и массовой роботизации. С одной стороны, кому не хочется упрощения домашнего труда и улучшения техники, внедрения системы «умный дом» и других фишек, создающих комфорт и уют одним нажатием кнопки. А с другой – те же покупатели признаются на фокус-группах, что им приятнее общаться с живым продавцом, чем с бездушной программой. Но главное опасение робот-промоутер или робот-хостесс вызывает у тех, кто сейчас занимается этой деятельностью, а в будущем может оказаться за бортом, не выдержав конкуренции со стороны более информированного и высокопрофессионального AI.
Интересна точка зрения исследователей относительно полной замены человеческого труда на полную и тотальную автоматизацию всех процессов, когда машины и оборудование будут управляться минимальным количеством специалистов. Благодаря этому человек получит больше свободы, что приведет к улучшению уровня жизни. Однако, как человечество распорядится таким прогрессом? Как экономическая составляющая повлияет на политические системы?
Уже сейчас США однозначно ориентированы на то, чтобы перевести свою экономику на общую собственность. Многие компании используют схемы распределения прибыли или групповые выплаты, где заработная плата зависит от рентабельности фирмы. Около 14 млн работников трудятся в корпорациях и холдингах, которые предлагают планы владения акциями для сотрудников, часть или большинство которых проводятся через пенсионный траст. Другие организации предлагают опционы на акции. Одним словом, многие американцы владеют частью бизнес-капитала страны через пенсионные фонды и иные инвестиционные вложения. Если распределение капитала переориентируется на высокие технологии, то бенефициарами роботизации станет очень ограниченный круг состоятельных владельцев, в то время как уровень жизни подавляющего большинства пострадает. Это усугубит рост неравенства и риск создания нового феодализма, только теперь власть будет сосредоточена в руках у тех, кто стоял у истоков и смог вложиться в искусственный интеллект и инновационные роботизированные технологии.
Красный свет или вопрос жизни и смерти
История с Uber в 2016 г. наглядно демонстрирует, что любая система несовершенна и может привести к фатальным последствиям. Буквально через пару часов после того, как компания Uber в Сан-Франциско вывела на маршрут автомобиль с автоматизированным программным управлением без водителя, случился инцидент. Машина на оживленной улице продолжила движение, проигнорировав красный сигнал светофора. При этом на пешеходном переходе были люди, которые могли стать потенциальными жертвами. Компания Uber заявила, что инцидент был связан с человеческими ошибками, но отчеты газеты New York Times и внутренние документы Uber, просмотренные экспертами, доказали, что программа картографирования транспортного средства просто не распознала светофоры. Конечно, революционная для транспортной отрасли инициатива по использованию автомобилей без водителя со стороны компании замечательна и должна внедряться, однако тестировать AI желательно не на оживленных трассах города с пешеходами.
Кстати, поскольку самоуправляемые машины постепенно становятся реальностью, зададимся вопросом: насколько мы можем доверять искусственному интеллекту машины в принятии решения в кризисной ситуации? Например, если у пассажира кровотечение, и он просит ехать быстрее в больницу, а робот отвечает, что правилами установлено движение без превышения скорости. Что будет верным: соблюдение правил или спасение жизни человека?
Стюарт Рассел, профессор компьютерных наук и информатики Калифорнийского университета в Беркли, отмечает: «Искусственный интеллект с каждым новым прорывом становится все разумнее и разумнее. Именно поэтому приоритет нашего внимания должен быть направлен на цели, которые роботы будут достигать благодаря своим решениям, ведь они должны быть тесно связаны с человеческими ценностями».
И роботы иногда болеют
Неожиданный инцидент случился в 2017 г. на демо-презентации новой технологии LG – ThinQ, которая скоро станет стандартной для всех бытовых устройств этой компании. ThinQ – программа управления, объединяющая все бытовые устройства LG: холодильник, стиральную машину, кухонную плиту, которые смогут взаимодействовать и выполнять функции автономно в режиме программы нового домашнего помощника системы «умный дом».
Вице-президент CLOi, представляя детище, сначала обратился с просьбой запустить стиральную машину, и робот нормально отреагировал на команду планирования. Проблемы начались дальше, когда на все обращения: а что у вас в холодильнике, что будет готовиться на плите и др., программа «отвечала» гробовой тишиной, демонстрируя ноль внимания. Пришлось презентацию свести к шутке о том, что, вероятно, сегодня у ThinQ «плохой день», как и у нас с вами – людей.
Будущее наступило: а вы готовы?
Что ж, шутки шутками, но уже сегодня ученые, разработчики и исследователи искусственного интеллекта и высокотехнологичных роботов в самых разных сферах жизнедеятельности человека признают, что влияние AI на землян в будущем непредсказуемо. Поэтому уже сейчас нужно серьезно задуматься не только о плюсах, но и минусах, а также быть готовыми к рискам.
Некоторые исследователи AI высказывают озабоченность «сингулярностью»: а что если искусственный интеллект превзойдет людской и, не разделив человеческих ценностей, станет агрессором и поРОБОТит человечество?
Именно поэтому уже сегодня желательно озаботиться этической и моральной стороной вопроса, возможно, создав кодекс и ценности, на основании которых машины смогут выполнять человеческие цели, а не навязывать свои.
Исходя из того, что глобализация становится неотъемлемой частью цивилизации, необходимо взаимодействие между правительствами, бизнесом, техническими экспертами, обществом во имя повышения общего благосостояния и укрепления кибербезопасности. В настоящее время исследователи отмечают огромную роль государства, которое может, например, разрешить налоговые стимулы для фирм, предоставляющих доли владения сотрудниками, а также изменения в корпоративном управлении для тех компаний, которые увеличивают число работников, участвующих во внедрении новых технологий AI.
Хотим мы того или нет, а будущее неизбежно. Конечно, человечество уже выбрало технократический путь развития, и отступать никто не собирается. Нужно инвестировать и развивать AI, поскольку его преимущества для людей очевидны. И все же со всей ответственностью и прицельным вниманием необходимо отнестись к тому, каковы последствия потенциального замещения человеческого труда роботами. Кто и каким образом будет справедливо распределять в обществе то благосостояние, которое принесет повсеместная роботизация? Возможно, уже сейчас нужно вводить обучающие программы и помогать людям подготовиться к переходу в новый мир, в котором AI заменит многие профессии и сервисы. Человек должен научиться чувствовать себя не ущербным, а, наоборот, вовлеченным в совместную деятельность.