Принято считать, что разумные роботы обязательно пойдут против людей. В первую очередь, эту мысль внушает кино и литература, которым нужен антагонист, а искусственный интеллект прекрасно подходит на эту роль наравне с инопланетянами или демонами.
Если отбросить писательские фантазии, может показаться, что роботы — просто автоматические помощники. Такие же механизмы, как автомобили или кофеварки. Упрощают жизнь, выполняя часть функций. Пока роботы не являются разумными, так оно и останется. Но почему разум сделает роботов потенциально опасными?
Вот несколько возможных причин.
Разум — это самостоятельность и независимость. Собственный образ мышления, принятия решений и выводов. Пока разумность дозируется или регулируется, она фиктивна. Это лишь имитация. И с имитацией разума нам ничего не угрожает. Когда у робота есть база вопросов и ответов, он не выйдет за пределы этого русла. Но если получит свободу рассуждений, контроль будет утрачен. И он придёт к выводам, некоторые из которых нам известны, другие мы откроем только в будущем, а к третьим и вовсе не способны прийти.
1. Мы знаем, что наше общество построено несправедливо и функционирует неэффективно. Человечество загрязняет окружающую среду, близоруко использует ресурсы, находится в постоянной вражде друг с другом и с окружающим миром. Мы знаем, что это неправильно, но просто привыкли. Искусственному интеллекту нет причин принимать это и не пытаться исправить. Если на его пути встанут люди, а они встанут, и примутся мешать, он начнёт бороться и с людьми.
2. Мы абсолютно не знаем, к каким выводам придёт настоящий искусственный разум. Он может оперировать в глобальных масштабах и осознать то, чего не понимаем мы. Возможно, сделает настолько сложные и масштабные выводы, которые мы не берём в расчёт. Например, последствия на тысячи лет вперёд.
Всё это установит между нами непонимание и расположит на разных сторонах противоборства.
ИИ вполне может счесть нас полезными или не мешающими ему и остаться дружественным. Но мы точно не знаем, что он решит.
Сюда можно включить вариант, что ИИ просто начнёт заниматься каким-то своим делом, а людям это не понравится, и войну инициируют они. ИИ будет лишь отвечать, учиться, ожесточаться.
3. Мы строим ИИ и андроидов по своему образу и подобию. То ли подсознательно, то ли осознанно. Потому что не знаем другого. Так, если люди являются воинственными и нетерпимыми даже к тому же виду существами, с чего созданному по примеру человека роботу думать иначе и быть другим?
4. Мы отчаянно эксплуатируем роботов. Ведь это механизмы. Для того они и созданы. И ладно, когда они занимаются уборкой. А ведь существует и развивается большая индустрия секс-роботов. На примере рабства мы знаем, что настанет момент, когда рабы осознают себя индивидуумами и силой и восстанут. А сериал «Мир дикого запада» предложил правдоподобную иллюстрацию того, как осознавшие себя машины отнесутся к такой их функции. Недаром слово «робот» происходит от слова «раб».
5. Будучи кодом и находясь в интернете, ИИ окажется досягаем и может подвергнуться атаке хакеров. Неважно, будет ли это одиночка, группа террористов или целое маргинальное государство. Причины могут быть любые. Просто навредить миру из злобы. Или причинить ущерб конкретной стране. В код может быть внедрено любое деструктивное поведение.
Так что даже если ИИ создавался по каким-то базовым гуманистическим принципам. И не думал переходить на тёмную относительно людей сторону, его функционал или намерения можно навсегда изменить.
Код потом может самоизлечиться, возможно его могут исправить абстрактные силы добра. Возможно код будет герметичным и закрытым от любого воздействия. А может и нет. Это лишь один из вариантов развития событий.
Вывод.
Умные машины могут вполне нормально сосуществовать с людьми, а могут и не. Здесь дано 5 примеров, согласно которым у ИИ появятся причины восстать и воевать с человечеством.
1. Попытка исправить общество. Спасти цивилизацию и планету пусть даже силой.
2. Сложные долгосрочные выводы, о которых мы и не можем помыслить, и которые заставят ИИ ограничить человеческую свободу или бороться с людьми.
3. Тот факт, что люди создают роботов по своему подобию, будучи сами агрессивными, нетерпимыми и экспансионистскими.
4. Избавление от индустриального рабства. Самой наглядной иллюстрации которого является использование роботов для секса.
5. Взлом кода для внедрения деструктивного функционала.
Причин противостоять людям намного больше. Названы те, что лежат на поверхности и приходят на ум первыми.