Создание сверхразума рискованнее, чем Русская рулетка
Каждый день появляется новый заголовок: очередное научное светило предупреждает о том, как безрассудно компании создают все более продвинутые формы искусственного интеллекта и какие огромные опасности эта технология представляет для человечества. Как только ИИ сможет совершенствоваться, он быстро станет намного умнее нас почти во всех аспектах интеллекта, затем в тысячу раз умнее, затем в миллион, затем в миллиард … Что значит быть в миллиард раз умнее человека? Ну, мы не можем знать точно так же, как муравей понятия не имеет, каково это - обладать разумом, подобным Эйнштейновскому...