Стюарт Рассел, профессор университета Беркли, исследователь в области ИИ. Его мнение это не мнение обывателя перепуганного перспективой восстания машин в стиле Терминатора. Аргументы и опасения, подтвержденные его опытом и опытом других профессионалов (Винер, Тьюринг, Бостром, Тегмарк..) в этой области заслуживают самого серьёзного внимания. Автор касается самых различных аспектов перспективы появления ИСЧУ (интеллекта сверхчеловеческого уровня), начиная от самой возможности его создания, понимания "разумности" человека и машины - интеллект не ограничивается IQ, это многомерное понятие. Чем нам грозят неправомерное использования ИИ, AWS (автономных систем вооружений) безработица, связанная с ИИ, контроль за личностью со стороны государства, почему мы должны решить ряд научных, экономических, морально-этических и философских проблем, связанных с его созданием. Что грозит нам с появлением второго "интеллектуального" вида на земле, не окажемся ли мы в ситуации горилл, которые являясь нашими предками, ведут "жалкое", контролируемое нами существование и если для ИИ основным вектором его совершенствования является достижение поставленной цели, то какова наша цель в этом мире?
Пусть вас не отпугнут термины типа теоремы Байеса (это просто) или "логики первого уровня, т.е. узкое исчисление предикатов" (здесь и я уже слаб), вся теория вынесена в Приложения, суть книги не в этом. Суть, с моей точки зрения, заключается в том, чтобы "зажечь" для профессионалов и не только для них, "красные лампочки", предупреждающие об опасностях появления ИСЧУ, сейчас, пока еще есть время, а по пессимистическому прогнозу автора горизонт этого события составляет около 80 лет. Тенический прогресс не остановить и профессор Рассел критикует подход учёных из Стэнфорда, утверждающих что создание ИСЧУ невозможно в принципе и хотя нас от этого отделяет, пока непонятное эпохальное открытие, но история с Резерфордом и венгерским физиком Лео Силардом убеждает нас в обратном (Силард открыл нейтронную цепную реакцию через несколько часов после прочтения статьи Резерфорда о невозможности этого) и к его аргументам следует прислушаться. Рано или поздно мы перешагнем границу специализииованного искусственного интеллекта, решающего конкретные задачи и универсального ИСЧУ. Попытка утверждать обратное, это попытка просто уйти от обсуждения этой темы в пользу тех, кто не хочет "заморачиваться" ерундой, создавая ИСЧУ....
Книга для профессионалов и людей, интересующихся этой темой.
И хотя последние главы книги, посвященные способу разрешения проблем с ИИ, необходимостью для ИИ всегда следовать "предпочтениям" человека в условиях неопределённости и неоднородности этих предпочтений, показались мне "занудливыми" и спорными, я отношу это к собственному "недопониманию", поэтому читать в любом случае!
А у меня впереди отец ИИ - Марвин Минский и его "Машина эмоций". Сомневаюсь, что напишу рецензию на эту книгу легенды ИИ, это уже будет "ЧСН" - "человеческой сверхнаглостью"
#почитайподумайразвитие
#искусственный интеллект
#цифровизация