Роковой день, когда машины, наконец, станут умнее людей, неумолимо приближается - и все же мы, кажется, не приблизились к пониманию последствий этого эпохального события.
Действительно, мы цепляемся за некоторые серьезные - и даже опасные - мифы об искусственном интеллекте. Соучредитель SpaceX Илон Маск предупредил в прошлом году, что ИИ сможет захватить весь наш мир, сообщение вызвало множество комментариев как с осуждением, так и с поддержкой. Для такого грандиозного грядущего события есть поразительное количество разногласий. Особенно беспокоит, что мы пристально рассматриваем выгоды, которые можно получить от ИИ, и игнорируем возможные риски. В отличие от любого другого человеческого изобретения, ИИ может изменить человечество, но ИИ также сможет уничтожить нас.
Трудно понять, во что верить. Вот самые распространенные заблуждения и мифы об искусственном интеллекте.
Миф: «ИИ с человеческим интеллектом мы никогда не будем создавать».
Реальность: у нас уже есть компьютеры, которые соответствуют или превосходят человеческие возможности в таких играх, как шахматы и го, биржевая торговля и болтовня. Компьютеры и управляющие ими алгоритмы смогут стать лучше, и лишь вопрос времени, когда они преуспеют почти в любом виде человеческой деятельности.
Исследователь-психолог Нью-Йоркского университета Гэри Маркус сказал, что «практически все», кто работает с ИИ, считают, что он в конечном итоге нас нагонит: «Единственное реальное различие между энтузиастами и скептиками - это временные рамки». Футуристы думают, что это может произойти в течение нескольких десятилетий, в то время как другие полагают, что это может занять столетия.
Скептики ИИ неубедительны, когда говорят, что это неразрешимая технологическая проблема и что в биологическом мозге есть что-то уникальное. Наш мозг - это биологическая машина, но, тем не менее, все же машина; она существует в реальном мире и придерживается основных законов физики. В нем нет ничего непознаваемого.
Миф: «Искусственный интеллект будет осознанным».
Реальность: Распространенное предположение о ИИ - он фактически будет думать так же, как это делают люди. Более того, критики, такие как соучредитель Microsoft Пол Аллен, полагают, что мы еще не достигли уровня общего искусственного интеллекта, то есть интеллекта, способного выполнять любую интеллектуальную задачу, которую может выполнить человек, потому что нам не хватает надёжной научной теории сознания. Но, как отмечает когнитивный робототехник лондонского Имперского колледжа Мюррей Шанахан, нам следует избегать смешения этих двух понятий.
«Сознание, безусловно, увлекательный и важный предмет, но я не верю, что сознание на уровне человека необходимо для искусственного интеллекта», - сказал он Gizmodo. «Или, если быть более точным, мы используем слово «сознание» для обозначения нескольких психологических и когнитивных признаков, и они объединяются и проявляются в людях».
Можно представить себе очень интеллектуальную машину, в которой отсутствует один или несколько из атрибутов сознания. В конце концов, мы можем создать ИИ, который будет чрезвычайно умным, но неспособным воспринимать мир осознанно, субъективно. Шанахан сказал, что, по всей вероятности, возможно объединить разум и сознание в машине, но это две совершенно разные концепции.
И то, что машина проходит тест Тьюринга, в котором компьютер уже стал неотличим от человека, не означает, что он сознателен. Для нас продвинутый ИИ может создать некое впечатление сознания, но он будет осознавать самого себя не более, чем камень или калькулятор.
Миф: «Мы не должны бояться ИИ».
Реальность: Основатель Facebook Марк Цукерберг заявил, что мы не должны бояться ИИ, он будет делать много добра в нашем мире. Цукинберг прав только наполовину: мы готовы воспользоваться огромными преимуществами ИИ - от самостоятельного вождения автомобилей до создания новых лекарств - но нет никакой гарантии, что каждый ИИ будет именно таким «добросердечным».
Существует же Flame, это программа, используемая для целенаправленного кибершпионажа на Ближнем Востоке. Легко представить, как будущие версии Stuxnet или Flame распространятся и нанесут огромный ущерб всей доступной инфраструктуре. (Для пояснения, эти вирусы не являются ИИ, но в будущем они вполне могут быть наполнены ИИ, отсюда и проблема).
Миф: «Простое исправление программы решит проблему контроля ИИ».
Реальность: Предполагая, что мы создаем ИИ, превосходящий человеческий, мы столкнемся с серьезной проблемой, известной как «проблема контроля». Футуристы и теоретики ИИ совершенно не могут объяснить, каким образом мы когда-либо сможем ограничить ИИ, или как обеспечить его дружелюбие по отношению к людям. Исследователи из Технологического института Джорджии предположили, что ИИ может изучать человеческие ценности и социальные условности, читая простые истории; предпринимаются самые различные попытки. Например, программирование ИИ таким образом, что он функционирует просто как человеческий инструмент. С другой стороны, мы могли бы интегрировать концепцию, такую как любовь или уважение, в исходный код ИИ. Но эти решения пока либо слишком сырые - например, пытаясь вписать всю сложность человеческих симпатий и антипатий в одно единственное определение - или же они объединяют всю сложность человеческих ценностей в простое слово, фразу или идею. Возьмем, к примеру, трудность попыток обосновать определение «уважения»…
Миф: «Мы будем уничтожены искусственным суперинтеллектом».
Реальность: Нет никакой гарантии, что ИИ уничтожит нас или что мы не найдем способов контролировать и сдерживать его. Как сказал теоретик ИИ Элиэзер Юдковски: «ИИ не ненавидит вас и не любит вас, но вы сделаны из атомов, которые он может использовать для чего-то другого».
Илон Маск , Билл Гейтс и Стивен Хокинг (он предупредил, что ИИ может быть нашей «худшей ошибкой в истории») давно забили тревогу.
Но ничто не гарантировано, и никто не может быть уверен, какую форму примет ИИ и как это может поставить под угрозу человечество. Как указывал Маск, искусственный интеллект может фактически использоваться, чтобы управлять, регулировать и контролировать другой ИИ. И всё это должно быть пронизано человеческими ценностями.
Миф: «Искусственный суперинтеллект будет дружелюбным».
Реальность: Философ Иммануил Кант считал, что интеллект сильно коррелирует с моралью.
Если это правильно ... мы вполне можем ожидать, что, взрыв интеллекта приведет к взрыву морали. Получается, мы можем ожидать, что получившиеся в результате ИИ системы будут и сверхморальными, и сверхинтеллектуальными.
Но идея о том, что продвинутый ИИ будет просвещенным и тогда по своей сути добрыми, не оправдывает себя. Есть много умных военных преступников. Соотношения между интеллектом и моралью не работает среди людей, поэтому предположение, что оно обязательно будет работать в других формах интеллекта, сомнительно.
Умные люди, которые ведут себя аморально, склонны причинять боль в гораздо большем масштабе, чем их тупые собратья.
Нам бы очень повезло, если бы наши ИИ были уникально одарены, и становились более нравственными, когда становятся умнее.
Миф: «Риски от ИИ и робототехники одинаковы».
Реальность : Это особенно распространенная ошибка, которую увековечивают некритические СМИ и голливудские фильмы, такие как Терминатор.
Если бы искусственный суперинтеллект, такой как Скайнет, действительно хотел уничтожить человечество, он не использовал бы андроидов с автоматами. Было бы гораздо эффективнее, скажем, развязать биологическую войну или спровоцировать нанотехнологическую катастрофу из-за серой слизи. Или он может просто разрушить атмосферу. Искусственный интеллект потенциально опасен не из-за того, чем он станет в робототехнике будущего, а скорее из-за того, как он осознает свое присутствие в мире.
Миф: «ИИ в научной фантастике - точное изображение будущего».
Реальность: Конечно, научная фантастика использовалась авторами и футуристами, чтобы делать фантастические прогнозы, но горизонт событий, представленный ИИ, - это совсем другое дело. Более того, нечеловеческая природа ИИ делает невозможным нам узнать и, следовательно, предсказать его точную природу и форму.
Чтобы фантастика развлекала нас, обычных людей, ИИ в произведениях должны быть похожи на нас. Большинство научно-фантастических произведений существует, чтобы рассказать увлекательную историю, а не быть научно точными.
Миф: «Это ужасно, что ИИ заменит нас на рабочих местах».
Реальность: способность ИИ автоматизировать многое из того, что мы делаем, и его способность уничтожать человечество - две совершенно разные вещи. Можно подумать об отдаленных последствиях ИИ, но только если это не отвлечёт нас от проблем, с которыми мы, вероятно, столкнемся в ближайшие несколько десятилетий. Главной из них является массовая автоматизация.
Нет сомнений в том, что искусственный интеллект готов занять многие существующие рабочие места синих и белых воротничков. Некоторые эксперты прогнозируют, что половина всех рабочих мест в развитых странах будут готовы для автоматизации ИИ в ближайшее десятилетие.
Например, беспилотные автомобили могут заменить водителей грузовиков, что сократит расходы на доставку и, следовательно, сделает покупку товаров дешевле. Если вы зарабатываете как водитель грузовика, вы проигрываете, но все остальные в выигрыше, поскольку их покупательная способность вырастет. И деньги, сэкономленные этими людьми, будут потрачены на другие товары и услуги, которые создадут новые рабочие места для людей.
По всей вероятности, искусственный интеллект создаст новые способы создания богатства, освобождая людей для других дел. И достижения в области искусственного интеллекта будут сопровождаться достижениями в других областях, особенно в производстве. В будущем нам будет легче, а не труднее удовлетворить наши основные потребности.
Если вам показалась полезной и интересной статья, не забудьте поставить «лайк». Ну, и подписывайтесь, чтобы видеть мои новые публикации