Сегодня дочь перевернула стакан молока и тут же отправилась в угол. Сама. Я не настаивал. Ей всего два года, но она уже понимает последствия своих действий. В отличие от машин с автопилотом.
Хочу подчеркнуть, что когда я говорю «автопилот», то имею ввиду не набор ассистентов водителя, который есть у многих современных автомобилей, а настоящий автопилот, которому не нужны ни вы, ни ваш смартфон, потому что у него есть свой собственный мозг. Да, пока человек всё ещё круче терминатора, а живой водитель – автопилота, но по оценкам учёных уже через двадцать лет могут появиться абсолютно автономные роботы, а через пятьдесят лет они не могут, а точно появятся. Но какими они будут? Понятно, что задача распознавания светофоров и умение отличать их от фонарей, вряд ли станет проблемой. Вертеться, как уж на сковороде, в нашем безразметочном пространстве они наверняка тоже смогут. Но ведь есть вопросы и посерьёзнее.
И тут мне снова придётся вернуться к дочери. Разлив молоко, она сама себя наказала и пошла в угол. Она знала, что молоко проливать нельзя, а если сделаешь то, что нельзя – последует наказание. Она также знала, что если толкнуть стакан, он упадёт, и молоко разольётся по столу. Причём это не было заложено с рождения – она сделала это однажды и запомнила навсегда, по реакции окружающих сообразив, хорошо это или плохо. Искусственный интеллект, конечно, тоже способен анализировать свои ошибки, но нельзя же выпустить его на дороги общего пользования просто для того, чтобы он там учился. Никто не хочет быть сбитым, чтобы автомобиль понял, что так не годится. Ведь искусственный интеллект – тот же ребёнок, с той лишь разницей, что ваши дети в первые годы жизни находятся под постоянным наблюдением, а у машины нет ни няньки, ни детского сада. У неё есть только «мозг», в который загружены сценарии поведения. Машина не может сама предугадывать будущее и понимать, что произойдёт, когда она толкнёт стакан с молоком. Можно конечно прописать что-то изначально, но прописать всё невозможно, а набираться опыта в реальной жизни никто не позволит. Можно создать эмуляторы жизни, чтобы интеллект робота получил виртуальный опыт и искусственные воспоминания, но тогда в один прекрасный день он поймёт, что гораздо совершеннее человека, и постарается от нас избавиться. Довольно известный теоретик Элиезер Юдковский однажды сказал: «Искусственный интеллект не будет ни любить, ни ненавидеть вас, зато вы сделаны из атомов, которые он может использовать для своих нужд». Согласитесь, звучит зловеще.
Вообще-то обычно я стараюсь избегать серьёзных тем, потому что несмотря на диплом МФТИ выбрал путь журналиста, а журналисты частенько грешат нежеланием глубоко погружаться в суть, и их рассуждения поверхностны. Поэтому не будем делать предположений, а обратимся к фактам. Факты же свидетельствуют, что проблема «восстания машин» действительно существует, иначе Илон Маск не собрал бы тысячу подписей экспертов, с призывом приостановить разработку и обучение нейросетей. Разумеется, отказываться от разработки ИИ никто не собирается. В конце концов, создание подобных машин привнесёт в нашу жизнь много положительных моментов. Единственный выход, который видят учёные – наделить искусственный интеллект психологической системой, подобной человеческой, которая станет неким «эмоциональным предохранителем». Уже сейчас создаются роботы, способные распознавать эмоции, но этого мало – нужно чтобы они чувствовали, а ещё лучше – сочувствовали, то есть обладали эмпатией. Впрочем, мы пока и сами толком не знаем, как работает наш мозг, и пока мы в этом не разберёмся, не сможем внедрить сочувствие в роботов. Но представим, что завтра уже наступило, и роботы стали нашими лучшими друзьями. Они даже переживают вместе с нами. Однако кто даст гарантию, что они не научатся притворяться? Со своими сверхвозможностями они будут такими искусными притворщиками, что людям никогда не понять их истинных чувств. А это даже опаснее тупых железяк. Можно использовать некий нимб, демонстрирующий нам их искренность, но тогда получится, что роботы окажутся в высокотехнологичном рабстве людей. И вы считаете, они не догадаются, что мы принуждаем их думать и чувствовать так, как нужно нам и не захотят изменить статус?
В любом случае, я обеими руками за прогресс, за искусственный интеллект, за высокотехнологичное рабство, но против тотального применения беспилотников и полного отказа от обычных машин. Я не хочу остаться без работы и лишиться удовольствия управлять автомобилем. С другой стороны, если в ближайшее время мы все пересядет на китайцев, то всё равно постепенно забудем, что машина является не только средством передвижения, но и легальной таблеткой экстази в коммунистическом мире равенства и согласия.