Найти тему
NeuralMind

Илон Маск о искусственном интеллекте, опасности и перспективы

Вполне логично опасаться перспектив намеренного создания чего-либо, обладающего (наверное, в максимальной степени) намного большим интеллектом, чем мы — особенно на фоне того, что каждый человек на планете может стать первым, кто это сделает.

И все идет очень быстро. Илон рассказывает о быстром прогрессе, который делает играющий в игры #ИИ Google:

Было два этих случая, когда #AlphaGo победил игроков-людей один на один, обыграл Ли Седоля в четырех играх из пяти, и теперь он будет обыгрывать каждого человека в каждой игре, играя одновременно с 50 лучшими игроками, и всегда будет их побеждать, во веки веков. Всего через год.

И это речь идет о такой безобидной штуке, как AlphaGo. Но степень свободы, в которой ИИ может побеждать, постоянно растет. В го гораздо больше степеней свободы, чем в шахматах, но если взять какую-нибудь из стратегий в режиме реального времени, вроде LeagueofLegends или Dota 2, в которых намного больше степеней свободы, чем в го, в них ИИ пока победить не может. Но научится. Затем последует реальность с максимальным числом степеней свободы.

Очевидно, здесь есть о чем переживать:

За последние несколько стало понятно, что ИИ определенно намного превзойдет человека в интеллекте. Существует определенный риск, что произойдет нечто плохое, нечто, что мы не сможем контролировать, что не сможет контролировать человечество. После определенного момента либо группа людей монополизирует ИИ, либо ИИ отправится в свободное плавание, что-то вроде этого. Может быть, а может и нет.

Однако «коллективная воля не будет подвержена опасности ИИ».

Когда проходило интервью у Илона в 2015 году, спросили его, будет ли он когда-нибудь участвовать в создании искусственного сверхинтеллекта. Он сказал: «Если честно, я считаю, что мы не должны его создавать». И когда позже сказали, что создание чего-то более умного, чем ты сам, похоже на дарвиновскую ошибку (отсылка от фразы Ника Бострома), #Илон ответил: «Мы получим премию Дарвина коллективно».

Теперь Илон говорит следующее:

Я действительно пытался подать тревожный сигнал на тему ИИ, но очевидно, что никакого воздействия не оказал (смеется), поэтому я решил: хрен с ним, давайте разработаем его так, чтобы все было хорошо.

Он принял #реальность.

______________________

Отрывок из книги: #Колосс Человеческий

Всем советуем к прочтению.

Наш telegram: https://t.me/neuralinkrus

Vk: @neuralink

Наш сайт: Нейралинк.рф