Мои впечатления о недавно прочитанной книге "Искусственный интеллект. Что стоит знать о наступающей эпохе разумных машин" (составители Элисон Джордж, Дуглас Хэвен. Правообладатель: Издательство АСТ), входит в серию «New Scientist. Лучшее от экспертов журнала».
Книга несколько устарела, так как написана была в 2017 году, а за это время системы искусственного интеллекта успели покорить не одну вершину. С другой стороны, многие вопросы, поднятые в книге, стали за это время только более актуальными - например, проблема интерпретируемости рекомендаций, выдаваемых машиной. В книге приводится любопытный пример анализа, какие именно исходные данные привели в одном из исследований ИИ к выводу, что он не желает собственного отключения.
В книге кратко раскрывается история развития машинного разума. Первые подходы к разработке искусственного интеллекта основывались на создании символических правил. Однако после вдохновляющих успехов стало ясно, что невозможно разработать искусственный интеллект общего назначения с помощью жестко запрограммированных алгоритмов. После этого внимание исследователей переключилось на статистические методы, основанные на обработке большого объёма данных - data-driven ИИ. Простые статистические приёмы в сочетании с огромным количеством данных позволили добиться невероятных результатов, которые до этого казались недостижимыми.
На страницах книги сталкиваются взгляды именитых мыслителей и практиков на будущее человечества в свете бурного развития ИИ: от энтузиастов как Рэй Курцвейл (известный учёный, футуролог, сотрудник Google, автор идеи о сингулярности - слияния людей и искусственного разума) до скептиков как Наом Хомский (отец современной лингвистики, по мнению которого разумность не может быть заменена статистическими корреляциями).
Авторы обсуждают возможные риски, связанные с проникновением ИИ во все сферы жизни. Например, не будем ли мы слишком полагаться на рекомендации машины, не понимания, на чём они основаны. Так как алгоритмы учатся на данных из реального мира, они могут воспроизводить и даже усиливать все присущие нашему обществу пороки, например, те или иные стереотипы.