Вполне логично опасаться перспектив намеренного создания чего-либо, обладающего (наверное, в максимальной степени) намного большим интеллектом, чем мы — особенно на фоне того, что каждый человек на планете может стать первым, кто это сделает.
И все идет очень быстро. Илон рассказывает о быстром прогрессе, который делает играющий в игры #ИИ Google:
Было два этих случая, когда #AlphaGo победил игроков-людей один на один, обыграл Ли Седоля в четырех играх из пяти, и теперь он будет обыгрывать каждого человека в каждой игре, играя одновременно с 50 лучшими игроками, и всегда будет их побеждать, во веки веков. Всего через год.
И это речь идет о такой безобидной штуке, как AlphaGo. Но степень свободы, в которой ИИ может побеждать, постоянно растет. В го гораздо больше степеней свободы, чем в шахматах, но если взять какую-нибудь из стратегий в режиме реального времени, вроде LeagueofLegends или Dota 2, в которых намного больше степеней свободы, чем в го, в них ИИ пока победить не может. Но научится. Затем последует реальность с максимальным числом степеней свободы.
Очевидно, здесь есть о чем переживать:
За последние несколько стало понятно, что ИИ определенно намного превзойдет человека в интеллекте. Существует определенный риск, что произойдет нечто плохое, нечто, что мы не сможем контролировать, что не сможет контролировать человечество. После определенного момента либо группа людей монополизирует ИИ, либо ИИ отправится в свободное плавание, что-то вроде этого. Может быть, а может и нет.
Однако «коллективная воля не будет подвержена опасности ИИ».
Когда проходило интервью у Илона в 2015 году, спросили его, будет ли он когда-нибудь участвовать в создании искусственного сверхинтеллекта. Он сказал: «Если честно, я считаю, что мы не должны его создавать». И когда позже сказали, что создание чего-то более умного, чем ты сам, похоже на дарвиновскую ошибку (отсылка от фразы Ника Бострома), #Илон ответил: «Мы получим премию Дарвина коллективно».
Теперь Илон говорит следующее:
Я действительно пытался подать тревожный сигнал на тему ИИ, но очевидно, что никакого воздействия не оказал (смеется), поэтому я решил: хрен с ним, давайте разработаем его так, чтобы все было хорошо.
Он принял #реальность.
______________________
Отрывок из книги: #Колосс Человеческий
Всем советуем к прочтению.
Наш telegram: https://t.me/neuralinkrus
Vk: @neuralink
Наш сайт: Нейралинк.рф