Замечательная книга, одна из лучших книг серии науч-попа по данной тематике ! Написанная двумя профессионалами, она поможет вам хорошо понять, что реально из себя представляет сейчас ИИ - на самом деле искусственный, но не интеллект.;) Гэри Маркус – профессор психологии и нейробиологии Нью-Йоркского университета и соучредитель компании Geometric Intelligence. Автор пяти книг, ставших бестселлерами The New York Times. Эрнест Дэвис – профессор Нью-Йоркского университета, один из ведущих мировых специалистов в сфере обучения искусственного интеллекта базовым знаниям о мире.
Я добавляю эту книгу в мой дайджест по этой теме и все основные ремарки по ИИ из этого дайджеста, подтверждаются авторами этой книги. https://zen.yandex.ru/media/id/5f20619feba54634bd9a45f5/daidjest-knig-po-ai-6065983fe1bc535b108e3b3c
Будучи профи в этой области, авторы сосредоточились на "разоблачении" текущих достижений в области ИИ, шаг за шагом доступно, иногда слишком, на множестве примеров, объясняя как реально работает ИИ и как нам далеко до "будущего", рисуемого Реймондом Курцвейлом. Особенно досталось глубокого машинному обучению. Авторы справедливо считают и я с ними полностью согласен, что при всех достоинствах метода в ограниченном числе случаев, это тупиковая ветвь развития ИИ. Основанный на статистических моделях и больших наборах данных, ИИ находит корреляции в этих огромных наборах данных, но корреляции это не причинность, а значит это всего лишь данные, а не знания. Метод не может быть применим в областях прежде всего связанных с безопасностью, поскольку решения принимаемые ИИ с помощью этого метода зависят от обучающей выборки и оперативного набора, стабильности среды, которая должна быть замкнута и небольшие изменения контекста приводят к катастрофическим результам и если в случае языкового перевода это вызовет улыбку, то в случае самоуправляемых автомобилей это уже серьезно. Более того, я всегда напоминаю моим оппонентам об энергоэффективности ИИ, т.е. о прямых энергетических затратах требуемых ИИ для принятия решения, что убивает любую возможность дальнейшего масштабирования при этих методах, у нас нет возможности "загнать" его в коробку 1,5 литра объемом и потребляющем 25 ватт энергии (это наш мозг).
Мы, в силу своего антропоморфного взгляда на ИИ часто приписывам ему то, чем он реально не обладает, а не обладает он главным - когнитивными моделями окружающего мира, которые есть уже у ребенка и совершенствуются всю нашу жизнь, он не обладают пониманием смысла, сознанием, которое определяет наше целепологание, эмоциями, гормонами и т.д. и т.п. и не оперируют знаниями в том или ином контексте. Смена освещения или простое ничего не значимое для человека изменение образа приведёт к неправильному выводу. Мир открытая система и неэргодичность процессов окружающего мира делают полученные наборы данных ограниченными к применению и по времени и по месту . В книге огромное число примеров, тщательно разбираемых, объясняющих как работает ИИ и почему он делает такие глупые ошибки. Распознавание образов, перевод текстов, робототехника и масса других областей описывают авторы. Пусть вас не вводят заблуждения рекламные достижения IBM Watson, Alpha Zero, роботов Boston Dynamics - часто это просто шоу. Игра в "ГО" это замкнутая система с фиксированными правилами, больше ничего этот ИИ делать не умеет...
Непонимание нами человеческого сознания делает невозможным в ближайшее время его "моделирование", делает несерьезными попытки свести все его многообразие к математическим формулам. Конечно компьютерам не надо следовать тем же методам, которые использует человеческий мозг для понимания окружающего мира, понимания им смыслов, тем более в условиях когнитивных искажений. СведЕние нашей жизни к бихеоверистким моделям в корне не верно, наше поведение контекстно и этот контекст определяется не только текущим моментом, а миллионами лет нашей эволюции в той или иной природной и социальной среде и программы обучения передаются нам генетически, генетика и воспитание (обучение) работают вместе, они делают возможным наше обучение, порождают наше знание. Наш мозг, начиная свое развитие в утробе матери, постоянно перестраивает свои когнитивные модели и строит свои абстракции, необходимые для нашего непрерывного обучения, которые пока недостижимы для ИИ. Базовые знания это то, что не хватает ИИ считают авторы и с этим трудно не согласиться.
Предлагаемый авторами подход представляет собой скорее общее видение как должен строиться процесс обучения ИИ, основанный на понимании пространственных, временных и причинно-следственных связей, на базовых знаниях о физических объектах и о психологии людей. И здесь, как мне кажется, существует неразрешимое противоречие. Виртуальный "мозг" ИИ д.б. помещен в мир физический, что не возможно, без аналога человеческого тела, иначе ИИ никогда не сможет преодолеть reality gap, разрыв между реальной ситуацией и моделью. Надо отдать должное авторам, это пожалуй одна из немногих книг, затрагивающая проблему безопасности и доверия к системам ИИ, начиная от вопросов инженерной надёжности и кибербезопасности ИИ и заканчивая этикой ИИ. На сегодняшний день у нас нет каких-либо критериев оценки "доверия" к системам ИИ. (Для меня было новостью, что системы ИИ Теслы не используют лидары, а только видео. При таком подходе ошибки гарантированы). Интересна ремарка о необходимости модульного подхода к ИИ, а также включения средств контроля, дублирования и верификации применяемых сейчас в АСУ. Спешка инноваторов на базе MVP, здесь неуместна!
Необходимо создание подсистемы здравого смысла! (вопрос только что это? :) ) Развитие ИИ идет сейчас по неправильному пути, основной вывод этой книги. Необходима перезагрузка!
К сожалению, книга на русском языке пока доступна, только в печатном виде или аудиоформате (больше 9 часов записи).
Читать обязательно, если вы хотите понять возможное будущее. Особенно специалистам по глубокому обучению.