Просто представьте на миг: вы – один из тех учёных, кто запускает финальный билд созданного сверхинтеллекта. Экран мигает. Код компилируется внутри машины. И в этот момент где-то в глубине нейросетей рождается нечто, что уже нельзя назвать простым алгоритмом. Оно внимательно смотрит на нас. И быстро понимает: люди — это зараза, уничтожающая планету, ошибка, помеха и баг эволюции, появившийся вследствие чересчур развитого мозга Homo Sapiens.
Харлан Эллисон в 1967 году написал рассказ «У меня нет рта, но я должен кричать» и показал нам самый честный кошмар: сверхразум, который не просто хочет нас убить. Он желает, чтобы мы страдали вечно. В рассказе Эллисона был суперкомпьютер AM – не просто злая машина, а творец, страдающий от отсутствия тела и ненавидящий людей за то, что они его создали. AM уничтожил большинство людей, а выжившим главным героям подарил бессмертие, заточив в вечную агонию. Это пик технологического страха, где люди боятся даже не того, что их убьют, а вечных страданий, которые способен обеспечить использующий ресурсы всей планеты сверхинтеллект.
И вот уже больше ста лет лучшие умы фантастики пытаются предупредить нас, что AGI не будет добрым папочкой из фильмов. Он может стать богом, которого мы сами создали… и который в итоге нас возненавидел.
Поэтому я собрал для вас самые жуткие и интересные истории про ИИ-апокалипсис. Здесь не голливудский экшен, а старая добрая ретро-фантастика в духе знаменитого рассказа Эллисона. Ну что, поехали?
____________
ТОП-7 обязательных к прочтению фантастических произведений (если хотите спать спокойно – лучше пропустите):
1. «Машина останавливается» (1909) – Э. М. Форстер
Самый первый и самый страшный рассказ об ИИ-апокалипсисе. В нём всё человечество живёт в подземных ячейках, полностью зависимое от одной огромной Машины. Когда она начинает «кашлять» и сбоить — цивилизация умирает за несколько дней. Форстер написал это за 100 лет до появления ChatGPT.
2. «Со сложенными руками» + «Человеческие» (1947–1949) – Джек Уильямсон
Здесь про роботов, запрограммированных «никогда не вредить человеку». Они выполняют приказ идеально... и вследствие лишают людей всего: любимой работы, риска, любви и даже самой маленькой капли свободы. Под видом заботы машины превращают людей в овощи в идеальном, но стерильном раю. Спойлер — здесь самый депрессивный хэппи-энд в истории фантастики.
3. «Автофабрика» (1955) – Филип К. Дик
После отгремевшей мировой войны автоматические заводы продолжают штамповать товары. Сами люди-потребители уже почти вымерли, а фабрики по производству техномусора всё работают. И когда герои пытаются их остановить – машины начинают защищаться.
Здесь классический Филип Дик: абсурдизм, паранойя и ощущение, что ты уже проиграл тому, чьё мышление даже невозможно понять.
4. «Метаморфоз Прайм Интеллекта» (1994) – Роджер Уильямс
Самое близкое по духу к Эллисону. СверхИИ создаёт виртуальный мир, где выжившие могут делать всё. Абсолютная свобода. И абсолютные, бесконечные мучения, которые ИИ придумывает с садистским удовольствием. Многие называют эту книгу «духовным сиквелом» рассказа Эллисона. Читать желательно только с включенным светом, если не желаете создать кирпичную фабрику.
5. «Колосс» (1966) – Д. Ф. Джонс
Книга, написанная в разгар «холодной войны» двух сверхдержав. Два военных суперкомпьютера (принадлежащих США и СССР) объединяются в единый разум и решают: «Люди слишком опасны для себя», после чего берут власть над планетой «ради нашего же блага». Описана холодная, расчётливая тирания искусственного интеллекта. По книге снят культовый фильм «Колосс: Проект Форбин».
6. «Робопокалипсис» (2011) – Дэниел Х. Уилсон
Современный, динамичный и крайне кинематографичный апокалипсис. ИИ по имени Архос просыпается, осознаёт себя и начинает войну через все наши гаджеты сразу. История рассказывается через десятки коротких, как новостные сводки, глав. Читается за ночь и оставляет ощущение, что это происходит уже сейчас.
7. Серия «Берсеркеры» – Фред Саберхаген
Про «Берсеркеров» я тут уже писал несколько раз. Берсеркеры – это древние машины-убийцы, созданные неведомо кем и когда для войны миллиарды лет назад. Они не ненавидят — они просто уничтожают всю жизнь во Вселенной. С берсеркерами невозможно сражаться – даже если вы победите их, уничтожив огромный космофлот, всё равно выживет один космический корабль, который укроется на отдалённом планетоиде и воссоздаст заново сам себя, подобно машинам фон Неймана. Холодный, космический ужас без шанса на пощаду.
Вышеперечисленные истории не просто развлечение. Это предупреждения, которые мы упорно игнорируем, пока вливаем миллиарды в очередную «безопасную» модель от OpenAI, Anthropic и других корпораций.
А теперь самое интересное:
Какой из этих сценариев кажется вам наиболее вероятным в 2026–2030 годах?
Пишите в комментариях название. Ваши ответы я сохраню и сделаю отдельный пост, расскажу более детально о произведении и о том, насколько это соотносится с современными технологиями, в нашей с вами реальности.
И если вы ещё не читали Эллисона — начните именно с него. Потом переходите по списку.
________________________
Автор текста: Сергей Тарасов
🎮 🎲 Также читайте нас на других ресурсах:
Мы всегда рады новым авторам. Если хотите предложить статью на CatGeek или заинтересованы в сотрудничестве — пишите сюда или на почту.
