Помните мультфильм "В стране невыученных уроков"? Главный герой мыслил, где же ему поставить запятую в предложении "Казнить нельзя помиловать"? А где искусственному интеллекту поставить запятую: "быть сильным, нельзя быть слабым" или "быть сильным нельзя, быть слабым"? Давайте разберёмся.
Футуристы и фантасты пугают нас страшным будущим, в котором человек будет свергнут машинами с пьедестала самого всемогущего существа планеты Земля. И, как и всё живое для человека, человек для умной машины может стать таким же ресурсом. Среди людей, опасающихся умных машин, затесался даже Стивен Хокинг. Он вообще считает, что умные машины нас полностью уничтожат.
По словам Хокинга, эволюция машин будет происходить гораздо быстрее, чем эволюция людей, что и приведёт к катастрофе. Есть даже сторонники идеи полного запрета разработок сильного искусственного интеллекта. Но разве можно запретить человеку экспериментировать? Казалось бы, строго-настрого запрещено менять гены человеческих эмбрионов, но это не останавливает учёных, которые втайне от своих институтов занимаются такой деятельностью. Запреты обычно порождают ещё большее рвение к экспериментированию.
Хорошо, смелых экспериментаторов у нас хватает. Можете не сомневаться, что сейчас несколько групп исследователей корпят над созданием машины с сознанием. Но реально ли это?
Когда-то идея о летающих людях казалась безумием: "почему люди не летают как птицы - потому что отрастили большие ягодицы". Но прямо сейчас над землёй парят 11-12 тысяч самолётов с десятками и сотнями людей на борту. Спасибо таким изобретателям, как братья Райт. Однако мыслить - не летать. Если к 1902 году - году первого полёта самолёта - была понятна физика этого процесса, то сегодня не просто непонятно, но совершенно неизвестно, что есть разум, сознание, мышление - то, чем собираются наделить сильный искусственный интеллект.
Двайте всё же разъясним, чем сильный интеллект отличается от слабого.
Есть ли среди читателей особо догадливые? Как думаете, договорились ли люди о том, что считать слабым искусственным интеллектом, а что - сильным? Конечно же нет! О критериях всё ещё спорят, но о некоторых более-менее договорились:
- Общение на языке человека, или естественном языке. Соответственно искусственные языки - это, например, языки программирования, азбука Морзе, ноты. Сейчас искусственные интеллекты очень плохо говорят на естественных языках, точнее скорее плохо их имитируют.
- Способность к обучению.
- Наличие сознания.
- Наличие самосознания.
- Способность к планированию.
- Способность к принятию решений.
- Наличие знаний и представлений о мире.
- Способность чувствовать.
Проще говоря сильный искусственный интеллект должен обладать хотя бы таким же умом, каким обладает человек. Но его ум может и превосходить человеческий.
Проблема сознания и науки, её изучающей.
Можете ли вы сказать, что такое сознание? Здорово, если можете. Озвучьте своё определение человеку, занимающемуся исследованиями сознания, и поймите, что вы ничего не знаете о сознании. Ведь даже он не знает.
Есть ли сознание не только у человека, но и у других животных? А есть ли сознание у других людей или ты один такой умный, а все остальные - иллюзия, порождённая матрицей? Где та грань, после которой можно сказать, что вот у этого вида сознание есть, а у этого - нет. Как проверить, есть ли сознание у машины? Является ли сознание порождением мозга? Можно ли описать при помощи такой материалистичной науки, как нейрофизиология, такое не материалистичное явление, как сознание? Пока что нет никаких способов ответить однозначно на все эти вопросы. Мы более-менее верим, что сознанием обладают и другие люди. Но вот в наличие сознания у животных верят не все, хотя есть научные данные, подтверждающие это.
Сейчас на эти вопросы однозначно могут ответить только религия и философия. Тут можно, пожалуй, лишь верить или не верить. Конечно, у нас вроде есть психология, которая может более-менее что-то объяснить. Однако не стоит ей полностью доверять. Несколько лет назад психолог Дэниел Кенеман предложил повторить сотню крупнейших и главнейших психологических экспериментов. Каково же было удивление, когда 64 повторенных экспериментов из 100 привели к совершенно иным результатам! Как так получилось, ведь эти эксперименты старались сделать максимально близкими к оригинальным? Что это, фальсификация? Или причина в немного разных методиках проведения экспериментов? Или проблема в испытуемых, ведь мы всё же отличаемся от наших родителей, бабушек, дедушек, принимавших участие в эксперименте несколько десятков лет назад? Или всему виной другое оборудование? Или иные методы обаботки результатов?
Страшно, что те первоначальные результаты исследования сознания, восприятия, интеллекта и много чего ещё, долгое время считались истинными и непоколебимыми. На их основе складывались целые теории, внедрялись методики лечения психических и психологических расстройств, разрабатывались критерии подбора персонала и т. д.
Психологии нужно быть куда более осторожной, если она претендует на право быть наукой. А нам нужно быть более реалистичными и здраво оценивать свои знания о сознании, тем более если мы пытаемся воспроизвести его у машин.
Слабый искусственный интеллект
Это алгоритм. Очень продвинутый алгоритм. В идеале он должен хорошо имитировать умственные способности человека. Недавно я поспорила с одним из друзей о том, является ли алгоритмом слабый искусственный интеллект. Он утверждал, что нет. А мне забавно, насколько слабый искусственный интеллект искусно вводит в заблуждение своих пользователей :)
Алгоритм не означает что-то простое. Алгоритм - это набор инструкций. Современные компьютеры имеют достаточную память, чтобы вмещать ооооочень много алгоритмов. Если у компьютера спросили, сколько градусов на улице, внедрённый в него алгоритм "говорит" ему, что нужно показать погоду. Если спросили абстрактный вопрос, алгоритм "говорит" машине, что нужно выдавать ссылки на статьи, сопровождая их оповещением "вот что мне удалось найти по вашему вопросу".
Не стоит считать, что раз искуственный интеллект назван слабым, он очень прост. Совсем нет. Все сегодняшние искусственные интеллекты, вроде Сири, Алисы - это слабые искусственные интеллекты. Но на их создание у разработчиков ушло чертовски много сил и продолжает уходить до сих пор. Слабый искусственный интеллект совершенствуется. Совершенствуется - значит всё лучше имитирует человека. Но именно ИМИТИРУЕТ. У него нет сознания, ума. Это просто обученная машина. Да, просто... попробуйте обучить машину...
Как оценить способность машины к имитации интеллекта? Для этого был создан тест Тьюринга, и, угадайте что! Да, искусственный интеллект смог его пройти.
Тест Тьюринга
Этот тест мы разбирали в предыдущих статьях. Я лишь коротко скажу, что придумал его Алан Тьюринг, и сам он называл его "игрой в имитацию".
Суть теста в следующем. В нём участвуют три игрока: человек, компьютер и судья, который тоже является человеком. Судья, задавая письменные вопросы человеку и компьютеру и получая от них такие же письменные ответы, должен определить, где отвечает компьютер, а где - человек. Если компьютер сможет ввести судью в заблуждение, т.е. уверить судью, что он не компьютер, а человек, тогда будет считаться, что компьютер успешно прошёл тест Тьюринга.
Среди машин, успешно одурачивших судей, есть искусственный интеллект, который называется Жена Густман. Он прошёл тест, притворяясь подростком из Одессы. Хотя здесь есть оговорочка: тест проходил на английском языке, а машина притворялась русскоговорящим подростком. Поэтому все "корявости" в ответах Жени можно было списать на то, что английский язык ему не родной. Хотя на самом деле эти "корявости" были результатом несовершенной способности машины отвечать на человеческом языке. Так что налицо некоторое читерство со стороны разработчиков Жени.
Сильный искусственный инттеллект
Он сможет думать самостоятельно. Будет осознавать себя как отдельную личность. Такая машина сможет понимать и осознавать информацию, с которой работает. Сильный искусственный интеллект уже будет способен создавать произведения искусства, делать научные открытия. Он сможет осуществить любую деятельность человека даже лучше, чем сам человек. У него будет способность чувствовать, сопереживать. Он будет способен к самосознанию. Короче изначально это будет что-то вроде человеческого разума, запертого в железо. Но эволюция сильного искусственного интеллекта, в отличие от нашей, будет двигаться семимильными шагами, и в скором времени он превзойдёт нас в наших человеческих делишках. Даже великий экспериментатор Илон Маск считает, что сильный искусственный интеллект будет причиной вымирания человечества, так что от Маска видимо не стоит ждать создания умной машины.
Сильный искусственный интеллект - это частый герой фантастических фильмов. Например, он появляется в "Космической одиссее" Кубрика. Да что там, в этом фильме практически весь сюжет крутится около сильного искусственного интеллекта. Фильм показывает многие особенности машины с человеческим разумом. Но не буду спойлерить.
Этика сильного искусственного интеллекта
Допустим, мы сможем создать сильный искусственный интеллект. Да и совсем невероятное: сможем вложить в него этические нормы, типа, не убивай людей и не колонизируй их. Какой должна быть эта этика?
Во-первых, сильный искусственный интеллект нужно будет социализировать. Т.е. объяснить, в каком обществе он находится и кем сам в нём является. Но для начала нам самим неплохо было бы понять, что такое человеческое общество.
Далее самому обществу нужно будет объяснить, что такое сильный искусственный интеллект, как с ним следует себя вести. Ведь изначально он будет ребёнком, которого мы все будем воспитывать. А, как известно, что посеешь, то и пожнёшь. Кого воспитаешь, того и получишь. Нам нужно быть осторожными.
Так можно ли быть сильным или лучше остаться слабым?
Если мы разгадаем загадку сознания, мы скорее всего сможем создать сильный искусственный интеллект, потому что тяга к экспериментам у человека в крови. Также создание сильного искусственного интеллекта - это вопрос времени: сложно сказать, изобретут его завтра-послезавтра, или на это уйдёт несколько сотен лет. Одно можно сказать точно: если это возможно, это будет сделано.
А дальше...
Я расскажу вам о научных способах исследования экстасенсорных способностей! Следите за обновлениями, подисывайтесь, задавайте мне вопросы лично или в комментариях!
