Эра искусственного интеллекта уже на пороге. Что нужно об этом знать? Читайте о трех мысленных экспериментах, помогающих понять природу ИИ.
Китайская комната
Почувствуйте себя в роли искусственного интеллекта. Представьте: вы находитесь в закрытой комнате, где перед вами кубики с китайскими иероглифами и инструкция на вашем родном языке. В ней объяснено, какой из кубиков нужно выдавать на определенный запрос, приходящий извне.
Допустим, приходит запрос «Сколько лап у кошки?». Вы смотрите в инструкцию, которая говорит, какой кубик нужно взять и положить в определенное место. Китаец, наблюдающий за экспериментом, будет получать правильные ответы. Создается иллюзия, будто вы знаете китайский язык, что на самом деле не является правдой.
Этот мысленный эксперимент Джона Сёрла — своеобразный ответ тесту Тьюринга. Он показывает, что робот не обладает сознанием, несмотря на то, что дает адекватные ответы на поставленные вопросы, ведь он это делает благодаря заложенным в него алгоритмам. Однако теория вызвала критику и споры, которые ведутся по сей день. Как мы можем быть уверенными, что сознание ИИ не устроено как-то иначе, чем человеческое?
«Проблема вагонетки» и тест МIT
Классическая формулировка проблемы вагонетки. Вы у рычага, ваши действия?
Этот мысленный эксперимент известен с очень давнего времени во многих вариациях. Последняя позволяет понять, какие моральные дилеммы встают перед искусственным интеллектом. Ученые из Массачусетского технологического института (MIT) разработали тест Moral Machine, где каждый может ощутить себя в шкуре ИИ.
Суть эксперимента: вы едете в машине по оживленной улице, перед вашим авто выбегает человек. Что делать: разбить автомобиль, пожертвовав пассажирами, или спасти их, но сбить человека на дороге? А если на заднем сиденье пристегнут ребенок? Форма задачи может меняться — количество людей на улице и внутри автомобиля, дополнительные условия и трудности.
При прохождении теста участники чаще выбирали решение с наименьшим уроном для людей. Но ситуация менялась в известную сторону, когда на пассажирском месте находились они сами. И это порождает дилемму. Беспилотные авто могут сделать дорожное движение более безопасным. Но люди не станут приобретать автомобиль-убийцу, который пожертвует ими.
Вам также будет интересно:
Какое программирование самое востребованное.
Frontend, самообучение и фриланс с Pomodoro.
«Искусство. Наука. Философия» — как прошел образовательный марафон от Skillbox и Science.me.
Василиск Роко
А теперь про искусственный интеллект, который заведомо зол на человечество. Представьте, что в будущем появится богоподобный виртуальный разум, который пожелал обречь на вечные мучения тех, кто не участвовал в прошлом в его изобретении. Сам факт знания этого подвергает человека риску наказания. Этот мысленный опыт вызвал огромный холивар на технофутуристическом форуме Less Wrong. Основатель форума удалил все посты с ним и запретил обсуждать Василиска Роко на несколько лет — настолько эта идея кажется опасной.
Этот мысленный эксперимент появился благодаря другому — парадоксу Ньюкома. В нем предсказатель предлагает вам две коробки: в открытой лежит тысяча долларов, а в закрытой либо миллион долларов, либо ничего. Выбрать можно одно из двух: либо взять обе коробки, либо только закрытую. Их содержимое определяет сам предсказатель. Если он предскажет, что вы выберете обе коробки, то закрытая окажется пустой. А если предскажет, что выберете закрытую, то в ней будет лежать миллион долларов. У задачи как минимум три решения — какой выбор сделаете вы?
Заключение
Курс «Аналитик данных на Python»
Интересуетесь искусственным интеллектом? Заглядывайте на курс «Аналитик данных на Python», где вы научитесь обрабатывать большие массивы информации несколькими строками кода. А также узнаете, как создавать алгоритмы машинного обучения — первый шаг к изучению ИИ.
Программа курса