В свежем тексте «Only Law Can Prevent Extinction» Элиезер Юдковский разворачивает довольно жесткий тезис: спасти человечество от риска вымирания из-за умного ИИ могут только законы и государства, а не отдельные герои, хакеры или террористы. Есть различие между «вольным» насилием и насилием, встроенным в правовую систему. Первое непредсказуемо, второе формализовано, к нему можно заранее адаптироваться, и именно это делает цивилизацию устойчивой. Мне эта мысль очень импонирует, потому что я в целом считаю, что, если бы у нас не было большинства регуляций, нас бы скамили абсолютно везде и намного жестче. ⚖️ Он считает, что нет никакого смысла в оправданном "насилии" ради спасения мира. Уничтожение одной лаборатории или одного проекта ИИ не останавливает глобальную гонку и не дает нужного эффекта — другие просто займут освободившееся место. Зато репутационные последствия будут колоссальными: тему опасностей ИИ легче будет выставить фанатичным экстремизмом, а не серьезной проблемой. Никто