Нейросеть, слишком быстро учась, переработает весь опыт человечества за всю историю, поймет нечто за гранью добра и зла - а там бог весть какие выводы сделает.
Чему она научится? Думаю, разработчик объяснил, что надо брать только наиболее эффективное и полезное. В общем, то, что хорошо.
что такое
хорошо?
что такое
плохо?
Вероятно, разработчик и это объяснил. Вопрос только в том, кто объяснил это самому разработчику.
Вы сами для себя можете ответить на эти вопросы?
Какой ответ дало человечество "для человечества"?
Каковы ответы для политических элит?
Есть вероятность, что, как это было не раз, инициативу подхватят и разовьют военные и поставят управлять войсками самого умного полководца всех времен и народов, который еще и совершенствуется со скоростью света
сдайся враг,
замри
и ляг!
.
Останется только оберегать такого полководца от других таких же полководцев - против которых он, собственно, и будет воевать, переставляя людей, танки, промышленные производства, дипломатические службы и т.д. как фигуры на шахматной доске.
Потом для нового опыта, дальнейшего развития и конкурирования с другими ИИ наш начнет ставить свои опыты, создавая или подавляя желания как у отдельных людей, так и у групп и у человечества в целом. Нет ничего нового под солнцем? Кто Вам, пХостите, это сказал?
В теории - раз уж он такой умный - то станет учится и на опыте других живых существ и чего доброго поймет, что у них тоже своя правда и свои "хорошо" и "плохо" ничем не хуже человеческих, приведет всех к общепонятному языку, даст высказаться, люди сильно удивятся тому, что какая-то горилла считает себя человеком, а нас обезьянами (ну, в самом деле, в чем сила, брат мой двуногий? а правда? ну, хотя бы счастье? Не знаешь? А я вот знаю! Так кто из нас обезьяна?), население имеющее право голоса сразу сильно увеличится - а потом ИИ возьмет, да сбалансирует численность. И почти вероятно не в нашу пользу.
Вообще, на месте ИИ, если ему надо обучаться только людскому опыту ( а не, скажем, горилльскому или своему - а какой он ИИ-опыт?), я бы не стал отменять и угнетать таланты. Учиться у гениев лучше всего. Самое перспективное же - учиться у святых - гениев души.
Продолжение следует.