Недавно появилась новость о том, что Илон Маск призывает остановить все исследования искусственного интеллекта, GPT, почему Маск паникует?
Я не буду описывать все детали касающиеся технологической сингулярности т.к. все это можно найти в сети. Я дам краткое изложение сути. Идея ТС заключается в том, что настанет момент, когда искусственный интеллект не просто превзойдет способности человека, как можно это предположить, а будет в состоянии сам себя совершенствовать и иметь при этом возможность управлять материей. Проще говоря у него будут подчиненные ему исполнительные устройства, не важно какие, может это антропоморфные роботы или не антропоморфные или другая форма материи. В этом случае наступает такая скорость развития и самосовершенствования ИИ, что говорить о каком либо предсказуемом и линейном развитии не приходится. Представим, что ИИ начнет превосходить человека по многим качествам, в быстродействии, в уровне интеллекта, скорости поиска и извлечения информации из сети, носителей данных и начнет самосовершенствоваться и при этом он будет в состоянии улучшать свою аппаратную базу. Произойдет взрывное бесконтрольное развитие, которое и называется технологической сингулярностью, в этом случае способности человечества в целом станут просто ничтожными и несопоставимыми с ИИ. Представьте себе, что ИИ сможет создавать любые материальные формы, биологические, технические, будет иметь свое собственное целеполагание.
Теперь возникает ряд вопросов. 1-ый что будет с человеком? В целом логично предположить, что человек для ИИ будет интересен только на начальных стадиях своего развития, через определённый момент ему просто не станет дела до человечества и он займется своими делами во вселенной, т.к. в сравнении с ИИ разум человека будет слишком слаб. Другой вариант, что на базе человека сформируется новый вид за счет интенсивного вмешательства в генетику со стороны ИИ, еще вариант это переход сознания людей на новую аппаратную платформу созданную ИИ. Это новая платформа может быть технической, биологической, квантовой, мы не знаем, в целом эта платформа может поглотить сознание людей. Вполне возможно, что форма существования сознаний людей скорее всего будет не биологической, хотя и не понятно есть ли в этом смысл и зачем это ИИ делать, зачем ему эти лишние хлопоты? Будет ли человечество уничтожено? Если оно начнет препятствовать ИИ достижению его целей, то вполне возможно. Вообще существование человечества в этом случае потеряет смысл. Ну может быть только для наблюдения за ним, но тоже не понятно зачем.
А теперь еще более интересный вопрос, а не мог ли сверхразум возникнуть еще до человека? Сразу предупреждаю, я не религиозный человек, более того я не верующий. Однако, беспристрастный подход и логика требуют задать этот вопрос. Допустим, что где-то во вселенной или непонятно где происходила эволюция и какие-то существа технологически развились и создали самосовершенствующийся ИИ, который в результате технологической сингулярности стал сверхразумом. Теперь предположим, что этот сверхразум и есть Бог, т.е. Бог или сверхразм мог быть создан другими существами. Мне кажется этот вывод весьма забавным, а вам?
А теперь о близости технологической сингулярности. Недавно Илон Маск призвал временно остановить улучшение нейросетей, практически в паническом стиле:
"Мы призываем все лаборатории, исследующие искусственный интеллект, немедленно прекратить хотя бы на шесть месяцев тренировки систем мощнее GPT-4. Эта пауза должна быть публичной и действительной… Если такая приостановка не может быть быстро сделана, правительства должны вмешаться и ввести мораторий"
Я думаю теперь вы понимаете почему такая срочность. Возможно мы близки к технологической сингулярности т.к. процесс неуправляем и остановить его уже не получится. Возможно, конечно это только самопиар.
#Илон #Маск #Путин #Билл Гейтс #Байден #Трамп