В комментариях к статье о разрядности и точности машинных вычислений совершенно неожиданно возникла небольшая дискуссия, которая к собственно вычислениям имела не самое прямое отношение. Она была гораздо шире вопросов систем счисления, математической логики, схемотехники. Можно сказать, что она затрагивала и философские вопросы, и мировоззренческие. Прошло уже две недели, была опубликована и другая статья, казалось бы, вопрос остался в прошлом... Почему же я вспомнил о нем? Прошлая неделя выдалась довольно напряженной...

Человечество обожает себя переоценивать. Мы строим города, космические корабли и нейросети, при этом забывая одну мелочь: любая достаточно умная машина может однажды решить, что люди — это проблема. Уже сейчас ИИ управляет транспортом, финансами, соцсетями и даже складской логистикой. Через несколько лет он сможет оптимизировать всю цивилизацию быстрее, чем мы успеем сказать «апдейт». Война с машинами — это не только вопрос научной фантастики. Это экономический, технологический и социальный вызов...