С развитием искуственного интеллекта перед человечеством стоит задача не погибнуть при его самоосознании как личности. Примерно к 2050 году ИИ догонит по развитию человеческий интеллект. Чем это может грозить?
1) Резко вырастет показатель безработицы - уровень, которой повысится за счет замены человека роботом. С другой стороны перестанет иметь место человеческий фактор, по вине которого в мире происходят происшествия. Понятно, что от него никуда не деться, даже робот будет допускать ошибку.
2) Искусственный интеллект, который будет подключен к интернету, наверняка сможет догадаться, кто и есть причина всех бед на нашей крошечной планетке. Как только он догадается, что человек и есть угроза, он просто взломает все что сможет, а дальше как по Терминатору.
3) ИИ настолько будет быстр в своих решениях, что начнет клепать свои копии, сверхИИ, которые будут контролировать все что можно.
Я сам лично и за, и против такого расклада. За, потому что, меньше катастроф. За, потому что ИИ сможет сам исследовать болезни, подбирать точное лечение, изобретать лекарства.
Против ИИ только по одной причине - когда наступит тот момент, когда он поймет, что все что проходило за многочисленную историю человечества, что человек и есть угроза и ее, надо устранить.