В конце советского периода этой темой занимался гениальный советский шахматист Михаил Моисеевич Ботвинник. Сначала он решал шахматные задачи, потом иные, вплоть до разработки экономических моделей. Есть биографический док. фильм о нем.
Так вот Ботвинник, сравнивая интеллектуальную работу живого человека и машины говорил следующее: человеческий ум охватывает меньшую вариативность данных, но действует как поэт. Он интуитивно чувствует красоту и, собственно, ее и ищет. Машина действует, как очень работоспособный Идиот.
*
Еще кажется важным, что имитируя человеческую деятельность (мысль, управление, созидание) искусственный интеллект очень понравится людям безнравственным, например порабощенным разными видами разврата. Машина не мучается совестью и действует эффективно. Велик соблазн, что кто-то (и это не один человек) соблазнится идеей повысить собственную эффективность и параллельно "излечиться" от нравственных рефлексий.
Собственно это и есть главная опасность данной темы - расчеловечивание человека ради менеджерских успехов.
*
Любопытно, что тема эта вовсе не новая. Еврейская средневековая мысль поднимала эту тему, и даже на уровне прогноза решала ее. Нам стоит обратиться к мифу (или легенде) о Големе. Это именно тема оживления мертвой материи ради обслуживания нужд общины, человеческого коллектива. Вся наша машинная цивилизация, это, если хотите, огромный Голем, обслуживающий человечество. А искусственный интеллект это лишь новейшие разработки в уже существующей индустрии.
Так вот средневековая религиозная мысль предостерегает нас от чрезмерного оптимизма. Оказывается Голем обязательно выйдет из-под контроля, только с большими или меньшими последствиями. И его придется нейтрализовывать, уничтожать. Это как командно-штабные учения, которые при всех вариантах развития событий показывают неприемлемые потери.
Да и вообще, если кто-то думает, что он новатор, пусть покопается в анналах. Если не средневековая, то античная мысль наверняка предметно рассматривала наши "свежие" проблемы. Просто древним людям достаточно было рассмотреть предмет в теории, понять слабые и опасные места и закрыть тему. А нынешний человек так не умеет.