В последние годы много говорится об опасностях работы над искусственным интеллектом. Широко распространено мнение, что если ИИ достигнет необходимого уровня развития и интеллектуально превзойдет людей, наша роль в этом мире станет вторичной. В худшем случае человечество можно считать ненужным или даже опасным для существования искусственного интеллекта, и тогда некоторые люди будут уничтожены. По словам Алона Маска, такой суперинтеллект может инициировать существование бессмертного диктатора.
В новом документальном фильме « Доверяете ли вы этому компьютеру ?» Популярный миллиардер и провидец сказал, что человеческие диктаторы все еще смертны, но «бессмертный диктатор» может править вечно, и мы никогда не вернем себе свободу.
По словам Алона Маска, когда ИИ становится умнее и умнее людей, мы можем потерять над ним контроль и не сможем помешать ему достичь своих целей. Просто представьте себе сценарий, в котором суперинтеллект рассуждает людей как угрозу их существованию или просто как препятствие и имеет в распоряжении свою армию роботов.
«Искусственный интеллект не должен быть злым, чтобы уничтожить человечество - если у ИИ есть цель, и люди стоят на его пути, он, безусловно, уничтожит его и даже не будет думать об этом. Это как если бы мы строили улицу, и муравейник появился бы на ее пути - это не то, что мы ненавидим муравьев, мы просто строим улицу», - сказал Алон Маск.
Такой итог событий кажется маловероятным. Однако мы должны понимать, что искусственный интеллект не использует эмоции. Если у него есть команда или он сам ставит задачу, он сосредоточится прежде всего на ее выполнении.
Конечно, если ИИ признает, что это нужно человеку, например, чтобы выжить, он не будет уничтожен. В конечном счете, когда сверхинтеллект становится полностью самодостаточным, он либо уничтожает человечество, либо обрушивает на нас полную роботизированную диктатуру.