Илон Маск заявил, что искусственный интеллект способен уничтожить человечество, но, несмотря на это, он утверждает, что инвестировать в искусственный интеллект необходимо, и объясняет, почему он так считает. По мнению Маска, положительные эффекты искусственного интеллекта перевесят его отрицательные последствия. Также, по мнению Маска, вероятность того, что искусственный интеллект уничтожит человечество, составляет около 20 %.
Эти рассуждения показывают, что Илон Маск повторил свои прежние резкие заявления о рисках искусственного интеллекта. Однако на этот раз данное высказывание стало еще более важным, поскольку Роман Ямпольский, эксперт по кибербезопасности, заявил, что согласен с мнением Маска, и объяснил, почему.
С развитием искусственного интеллекта на повестку дня встала концепция "p(doom)". Это понятие можно определить как метод расчета вероятности того, что искусственный интеллект приведет к концу человечества. Также называемый "вероятностью гибели", p(doom) находится на очень тревожном уровне для таких экспертов, как Роман Ямпольский. Эксперт по кибербезопасности заявил, что высокоразвитый искусственный интеллект невозможно контролировать и что самый безопасный вариант - не развивать такой искусственный интеллект вообще.
В прошлом оценка p(doom) искусственного интеллекта варьировалась от 5 до 50 %. Однако Роман Ямпольский считает, что этот показатель равен 99 %. Это главная причина, по которой он не хочет разрабатывать сверхпродвинутый искусственный интеллект.