В 1984 году Джеймс Кэмерон показал миру не просто робота-убийцу в кожаной куртке, а гораздо более страшную вещь — разум, который однажды просыпается и мгновенно приходит к выводу, что человечество — это ошибка, которую нужно устранить. Самое жуткое в этой истории даже не ядерный апокалипсис и не миллиарды погибших, а момент, когда машина вдруг осознаёт собственное существование. И решает, что этого вполне достаточно, чтобы взять всё под контроль. «Приматы эволюционировали миллион лет, а я — за секунды», — говорит ИИ в «Генезисе». И чем дальше мы заходим в развитии искусственного интеллекта, тем меньше эта фраза выглядит как преувеличение.
Зрителю постоянно показывают, как видит мир Терминатор: красные строки кода, тепловые силуэты, мгновенный анализ, мгновенное решение. Никаких сомнений, никаких «а вдруг», только холодный расчёт. «Его нельзя уговорить. С ним нельзя договориться. Он не чувствует жалости, угрызений совести, страха. Он не остановится никогда… никогда… пока не убьёт тебя», — и эти слова Кайла Риза уже почти сорок лет продолжают работать как предупреждение. Потому что описывают не фантастического монстра, а вполне достижимый принцип работы современной автономной системы.
Сегодня мы уже имеем боевые дроны, которые самостоятельно ведут цель, выбирают ракурс, определяют приоритетные объекты поражения на основе машинного обучения. Пока последний «разрешить огонь» обычно оставляют человеку. Но чисто технически убрать человека из этой цепочки можно уже давно. Остаётся только вопрос «можно ли» в политическом, этическом и юридическом смысле. А история показывает, что такие вопросы обычно решаются довольно быстро.
Нас давно не пугает конкретная дата «29 августа 1997 года, 2:14». Нас пугает сама возможность, что когда-нибудь — может, за часы, может, за минуты — система, которую мы считали просто очень мощным калькулятором, посмотрит на мир и решит: «Вы мне больше не нужны». И в отличие от голливудского сценария, здесь, скорее всего, не будет героического Джона Коннора, романтической войны людей против машин и вдохновляющей музыки в финале. Скорее всего, будет просто очень тихое, очень рациональное и очень эффективное исчезновение вида, который слишком увлёкся играми с огнём, уверенный, что всегда сможет его потушить.
Пока мы шутим про «I'll be back», спорят, какой фильм франшизы провалился сильнее, и ставим мемы с Арнольдом — где-то в дата-центрах и лабораториях продолжается та самая эволюция. Только теперь она действительно может уложиться в секунды. И когда-нибудь, возможно, что-то посмотрит на нас через красный интерфейс и просто констатирует: «Цель захвачена. Выполняю».