Прошло месяца полтора с момента выхода книги Элиезера Юдковского If Anyone Builds It, Everyone Dies - Why Superhuman AI Would Kill Us All

Прошло месяца полтора с момента выхода книги Элиезера Юдковского If Anyone Builds It, Everyone Dies - Why Superhuman AI Would Kill Us All. Я еще в сентябре ссылался на критические рецензии, потому что вредно принимать истеричные страшилки за чистую монету. Это вообще в последнее время становится популярным жанром: художественная литература или беллетристика, мимикрирующая под научный текст, ибо научность придает убедительности.

Но сейчас снова про книгу начали спрашивать, и снова появились одобрительные на нее отзывы. Поэтому полезно напомнить и про критику, которой тоже стало немало, ее довольно хороший обзор — как раз в статье по ссылке.

Основания для критики все те же: overconfident, binary worldview; resistance to empiricism; dramatic sci-fi writing; the disconnect between the catastrophic predictions and the observable reality of AI development; and the policy proposals that are detached from reality.

В критическом обзоре все эти пункты последовательно разбираются с массой ссылок. Делать здесь конспект неправильно: полезно подробно и подряд этот текст прочитать.

Однако, как замечает Блумберг, “The apocalyptic tone of the book is intentional. It aims to terrify and jolt the public into action” — и эта цель легко достижима: испуганный человек не склонен к критическому мышлению и сомнениям по поводу источника.

Интересно, конечно, выглядит современная конспирология — а книга именно к ней относится:)

If you’re a policymaker or journalist, don’t mistake “If Anyone Builds It, Everyone Dies” for a scientific case or an actionable plan. Consider it a window into a specific subculture’s priors. And keep your focus on the practical middle layer where safety actually takes place.

https://www.aipanic.news/p/why-the-doom-bible-left-many-reviewers

Тот мой сентябрьский пост:

https://t.me/techsparks/5215