Представьте, что у Птолемея был современный ИИ. Машина мгновенно добавляла бы к геоцентрической модели новые эпициклы, подгоняла параметры и превращала любую аномалию в очередную математическую надстройку. Сколько еще веков прожила бы неверная картина мира, если бы ее несовершенство «лечил» идеальный оптимизатор? Боюсь, что долго. Очень долго. Эта мысль — ключ к пониманию главного риска прихода ИИ в науку. В новом эссе разбираю, почему это не алармистская страшилка, а вполне конкретный механизм, уже описанный исследователями...