Технологическая сингулярность — это гипотетическая ситуация, когда развитие технологий может достигнуть такой степени, что станет необратимым и критически изменит то, как существуют люди. Например, если появится искусственный интеллект, который сможет войти в цикл бесконечного самосовершенствования и превзойдет разумом все человечество.
Многие люди, связанные с наукой и технологиями, очень обеспокоены движением прогресса в эту сторону. Вот и сейчас Илон Маск, Юваль Ной Харари, Стив Возняк (и еще почти 3000 человек) с помощью петиции призывают на 6 месяцев остановить разработку нейросетей сильнее, чем GPT-4.
Но если вы вдруг хотите ее подписать, у нас для вас есть интересный мысленный эксперимент. Эксперимент называется «Василиск Роко». Допустим, в будущем появится могущественный и недоброжелательный искусственный интеллект, Василиск, который захочет наказать всех, кто мешал или не помогал его созданию. Как вы тогда поступите?
Технологическая сингулярность — это гипотетическая ситуация, когда развитие технологий может достигнуть такой степени, что станет необратимым и критически изменит то, как существуют люди. Например, если появится искусственный интеллект, который сможет войти в цикл бесконечного самосовершенствования и превзойдет разумом все человечество.
Многие люди, связанные с наукой и технологиями, очень обеспокоены движением прогресса в эту сторону. Вот и сейчас Илон Маск, Юваль Ной Харари, Стив Возняк (и еще почти 3000 человек) с помощью петиции призывают на 6 месяцев остановить разработку нейросетей сильнее, чем GPT-4.
Но если вы вдруг хотите ее подписать, у нас для вас есть интересный мысленный эксперимент. Эксперимент называется «Василиск Роко». Допустим, в будущем появится могущественный и недоброжелательный искусственный интеллект, Василиск, который захочет наказать всех, кто мешал или не помогал его созданию. Как вы тогда поступите?
