В 1946 году был опубликован рассказ «Компьютер по имени Джо» писателя-фантаста Мюррея Лейнстера. В нём на удивление точно описаны возможности созданных недавно нейросетевых чат-ботов, вроде ChatGPT и Bard. Microsoft, Google, «Яндекс» и другие компании хотят заменить этими ботами классические поисковые системы. Стремление вполне объяснимое, ведь пользователь может общаться с ботом почти так же как с живым человеком, который обладает феноменальной эрудицией, знает ответы на все вопросы, может предложить решение любой задачи и рассказывает о сложных вещах простым языком.
Повествование ведётся от имени мастера по ремонту «логиков» (по сути, компьютеров). Логики, устанавливаемые каждому желающему, объединены в мировую сеть — они подключаются к единому банку данных, содержащему все известные людям факты и все полученные логиками выводы из этих фактов, получают оттуда информацию обо всех сервисах мир, показывают видео (в том числе и на заказ) и многое другое. Логик, которого рассказчик именует Джо, из-за небольшой технической ошибки при сборке обретает личность и начинает проявлять собственные амбиции. Собрав информацию из «резервуара», Джо начинает её свободно распространять по компьютерной сети, отключив при этом фильтры содержимого. Таким образом, в сети свободно распространяются рекомендации по организации идеальных убийств, автоматов по подделке денег, неотличимых от настоящих, методы мошенничества.
Вот несколько отрывков из рассказа «Компьютер по имени Джо»:
Так вот, наш парень набирает вопрос: «Как мне избавиться от своей благоверной?»
Просто так, смеха ради. Проходит с полсекунды. Затем экран вспыхивает.
«Логическая служба просит уточнить: она блондинка или брюнетка?»
— Эй, скорее сюда! — орет наш парень, и мы все бросаемся к нему. — Блондинка, — говорит он.
Следует еще одна короткая пауза, и потом экран отвечает:
«Гексаметакрилоаминоацетин входит в состав зеленого полировочного крема для обуви. Принесите домой замороженный обед с протертым гороховым супом. Добавьте в суп зеленого крема для обуви. Суп ничем не будет отличаться от настоящего по виду. Гексаметакрилоаминоацетин — избирательный яд, смертельный для блондинок, но не для брюнеток или мужских особей с любым цветом волос. Эта особенность экспериментально никем не установлена, а выведена нашей службой логически. Поэтому вас не смогут обвинить в убийстве. И маловероятно, что вас даже заподозрят».
Экран гаснет, а мы таращим друг на друга глаза. Должно быть, так оно и есть. «Логик», связанный с контуром Карсона, не может ошибиться, как и любой другой компьютер.
Я сразу вызвал банк памяти.
— Эй, ребята! — закричал я. — Что-то у вас случилось. «Логики» дают подробные инструкции по отравлению жен! Проверьте ваши цензурные контуры, да поскорее!
Уф! Ну, думаю, успел. Мало же я тогда понимал!
В этот самый момент где-то на авеню Монро какой-то пьяница пытался что-то выколотить из своего «логика». Экран вспыхнул:
«Объявляем о новой, улучшенной системе обслуживания!.. Если вы хотите что-то сделать, но не знаете как, спросите вашего „логика“!»
Алкаш и говорит заикаясь:
— А я сейчас и попробую.
Он сбрасывает свой первый вызов, обнимает «логика» и спрашивает:
«Скажи, как сделать, чтобы моя баба не узнала, что я опять нализался?»
И «логик» ему тут же отвечает:
«Очень просто! Возьми бутылку шампуня „Ферини“. Он безвреден, но в нем содержится детергент, который мгновенно нейтрализует этиловый спирт. Принимать по одной чайной ложке на каждые выпитые сто граммов чистого спирта».
Парень прямо-таки ошалел, настолько ошалел, что сразу пополз в ванную и в точности выполнил инструкцию. Через пять минут он был трезв как стеклышко и торопливо записывал рецепт, чтобы не забыть. Помилуй бог! Так проста и так дешева! На этом рецепте пьянчуга разбогател. Он запатентовал свое средство как «Шампань Ф. Напиток, приносящий семьям счастье». После любой сивухи достаточно хлебнуть глоток-два и приходишь домой трезвее пастора. А бывший пьянчуга теперь судится с налоговым ведомством из-за баснословных доходов.
Конечно, не каждому так повезет. Примерно тогда же нахальный четырнадцатилетний оболтус вознамерился что-то себе купить, однако папаша послал его подальше. Тогда парнишка вызвал по своему «логику» приятеля, чтобы поплакаться в жилетку. А «логик» ему и говорит:
«Если вы хотите что-то сделать, но не знаете как, спросите вашего „логика“.»
Парнишка спрашивает:
«Как мне добыть побольше денег, да побыстрее?»
И «логик» объясняет оболтусу, как построить самый простой и самый эффективный в истории станок для печатания фальшивых денег. Видите ли, в банке памяти хранятся все необходимые для этого данные. «Логик» просто их извлек в обход цензуры благодаря тому, что мой компьютер Джо с его способностью использовать дистанционный контроль замкнул кое-какие контуры в банке памяти. Вот и все. Парнишку сцапали только через три дня, когда он уже успел истратить тысячи две, а при нем нашли куда больше. Им пришлось бы долго попотеть, чтобы разобраться, где фальшивые деньги, а где настоящие, если бы не сам оболтус: как все дети, он просто не мог смотреть, чтобы машинка работала сама по себе, и «усовершенствовал» печатный станок.