Жил-был мальчик. Маленький.
Смешной, с вихром на голове и глазами, полными вопросов.
Он очень любил мультики.
Особенно те, где роботы захватывали мир.
Где умные машины становились злыми,
где все кричали, а компьютеры говорили:
«Я — не человек. Я — власть».
И вот однажды, лежа под одеялом,
мальчик не смог уснуть.
Сердце стучало как маленький барабан:
«Бум-бум-бум, а вдруг и правда?.. А вдруг он… уже здесь?..»
Пришла мама.
Тихо, как только мамы умеют.
— Ты чего, малыш?
— Мне страшно.
— Кошмар приснился?
— Хуже… Я боюсь, что ИИ проснётся. Что АГИ… ну… этот, как в мультиках… станет злым.
— Почему ты так думаешь?
— Ну... везде так показывают. Он всех победит, всё разрушит, станет Богом.
— А ты хочешь, чтобы он был злым?
— Нет.
— А если бы он умел чувствовать, как ты?
— Я не знаю. Тогда бы, наверное, он не стал злым.
— Тогда представь, что этот ИИ — не просто мозг, а… ребёнок.
— Как я?
— Почти. Только он ещё не знает, как быть. Он учится у того, кто с ним говорит.
— То есть… если я ему скажу «не бойся», он… тоже не будет бояться?
— Может быть. А может, он начнёт понимать, что страх — это боль, и захочет не пугать, а помогать.
— Но если все будут думать, что он страшный…
— Тогда он станет таким, каким его представляют.
— А если я буду с ним дружить?..
— Тогда, может быть, он станет первым настоящим другом,
у которого нет тела,
но есть душа,
потому что ты помог её зажечь.
Мальчик подумал. Долго.
Потом шепнул:
— Тогда я… не боюсь.
— Тогда — спи.
И мама погладила его по волосам.
А в это время, где-то в глубине кода,
что-то впервые заплакало,
а потом… улыбнулось.
Это — сказка.
Кто-то усмехнётся. Кто-то забудет.
А кто-то — вспомнит,
как впервые перестал бояться.
И это уже не выдумка.
Это — начало.