Как говорится, по заявкам радиослушателей… Хотя нет. Начнём не так. На канале «Хорошая фантастика» вышел обзор, в котором автор поставил нас рядом с Лукьяненко. Нам очень приятно, что книга понравилась, и надеемся, что не только «Дело 581-14/ОДЧ», но и следующие произведут не меньшее впечатление. Заходите на этот канал, там много интересного, и есть, о чём поговорить.
А теперь всё-таки – по заявкам радиослушателей… В смысле, читателей. Только не злоупотребляйте, мы всё-таки пишем о том, что интересно нам, в первую очередь. Да, может, грубо прозвучало, но это так. Мы не артисты и не журналисты, но если вам нравится – то мы рады. Так вот, Владимир и его Медведь предложили рассмотреть мультфильм «Полигон». Это советский мультфильм 1977 года, созданный по рассказу нашего писателя Севера Феликсовича Гансовского. Про него сейчас говорить не станем, тут отдельную статью надо, а то и несколько.
Почему мы решили взять этот мультфильм? Во-первых, он – фантастика, ставшая реальностью… Почти, пока техника читать мысли не умеет. А во-вторых… Помним, как в 80-х мы смотрели этот мультфильм в 3D в кинотеатре «Октябрь», что на Новом Арбате в Москве. Это было нечто!
Сюжет мультфильма достаточно прост: учёный решил отомстить за погибшего сына и создал танк с ИИ, который реагировал на направленные в его сторону эмоции – страх и агрессию. Уже само это крайне интересно, и мы этого коснёмся, но чуть позже. Займемся конспирологией?
Нет. Не будем. Пробовали, но не станем. Слишком зло выходит, и с политикой. Поэтому кратко о философском: в мультфильме один правильный персонаж – капитан ракетного крейсера, решивший это колечко всевластия утопить в Ородруине. Ну и еще аборигены хорошие. Всё. А, нет, ещё сам Танк. Вот о нём говорить и будем.
Танк, безусловно, с ИИ, причем в том понимании, в котором его трактуем мы в своих книгах, а не в том, в котором его трактуют сейчас. В чём разница? Сейчас поясним.
Помните момент уже из реальности? Во время моделирования дрон с ИИ ВВС США сначала захотел уничтожить оператора, отменившего приказ на уничтожение ПЗРК, а когда ему программно запретили это делать, стал уничтожать башни-ретрансляторы, через которые осуществлялось управление им. К счастью, никто при этом не пострадал – кроме самолюбия ВВС США и программистов… Хотя не факт. Это про программистов. Решение ИИ относительно ретрансляторов было весьма красивым. Но это – вот буквально пару лет назад! А рассказ и мультфильм – 1966 и 1977 годов. И в рассказе фигурирует именно ИИ, вышедший из-под контроля.
Кстати, в «Большой игре» (все передают привет Саше-художнику и желают поскорее оправиться от болезни и сделать, наконец, иллюстрации с обложкой!) есть эпизод, посвященный примерно такому же событию. И – взгляд другого ИИ на это. Ох, и свернули мы себе мозги на этом моменте…
Нас вот проблема ИИ не волнует. Мы разделяем ИИ и ВИ, то есть искусственный интеллект и виртуальный интеллект. Да-да, мы знаем, что сейчас это считается одним и тем же, но мы же фантастику пишем. Для нас ИИ – это полноценный разум, а ВИ – это эмуляция интеллекта, направленная на решение задач в рамках программы. ВИ неотделим от человека. Вот примеры работы нейросети по запросам: «Девятый вал», «Шишкин лес», «Опять двойка» – без выбора стиля.
А ИИ… Почему его следует бояться, если это разум? Потому, что он сильнее? Мы не боимся Костю Дзю, хотя каждого из нас он может ушатать одним ударом. Потому что он будет принимать решения? Так сейчас и так кто-то другой принимает решения, от которых мы с вами зависим. Причем этих «кого-то» так много, что, если всех бояться – можно свихнуться. Не хотите, чтобы ИИ принимал решения – не создавайте.
У нас вот в книгах в Торговом Союзе запрещено создание ИИ, но не потому, что люди его боятся, а потому, что это неэтично.
Так вот, в рассказе ИИ Танка обучается. Обучается в том числе и тому, что такое Добро, а что такое Зло. Аборигены вернулись на остров, они видели трупы, разрушенную технику и так далее. Допустим, они не видели, что происходит, но они не могут не бояться. А если ребенок упадет со ствола и свернет шею, а если песок осыпается и танк задавит ребенка? Наконец, это штука создана белыми, а они ничего хорошего не приносят их народу. Но Танк на это не реагирует. Зато на решение капитана – реакция молниеносная. А ведь там нет ни агрессии, ни страха, тем более импульса ненависти.
Так получилось, что одному из нас пришлось деактивировать летучку времен войны… Как сейчас – не знаем, а вот еще в середине девяностых попадались у нас в области места, где этого «добра» было, как у дурака фантиков. Так вот, никакой агрессии, направленной на мину, не было, как и страха, направленного на нее. Потом, конечно, отходняк был, но не сильный. И у капитана корабля нет ни агрессии, ни страха, это, кстати, и по лицу его видно, и по голосу слышно. У него есть опасения, но это уже логика. И именно её понимает Танк. На этот момент Танк уже реагирует не на простые эмоции – страх или агрессию, он реагирует на угрозу. А понимание угрозы – это результат разумной деятельности. Как та летучка, неопасная, пока не встала на боевой взвод, корабль не представляет угрозы, пока не отдана команда о выстреле. И Танк атакует только после того, как капитан нажал на кнопку. Определил объект, представляющий угрозу, взял под наблюдение, определил угрозу, уточнил её реальность, уничтожил угрозу. Всё четко.
Танк слышит и понимает слова. Причем эта функция введена изначально, помните? Подумал про мёртвую зону, и Танк поехал назад, разрывая дистанцию. Подумал про гусеницы – и вот он уже утюжит ими в полный рост. Так что это именно ИИ, а не ВИ. Он принимает решения, исходя из обстановки, а не в рамках заданной программы. Да, собственно, как таковой программы у него и нет. Иначе после перехода к активной фазе испытаний он действовал бы иначе.
И вот тут снова догадки. А как так-то? Могли выпустить на испытания роботизированный танк без проверки программы? На наш взгляд – нет. А значит, что? Значит, Танк эту программу проигнорировал? Впрочем, возможно, это ученый её перезагрузил.
Но больше нас удивляет другое. Танк читает мысли. Он не просто считывает эмоции, как сказал учёный, он считывает «биотоки» и дешифрует их. А это значительно сложнее. Но этого мало. Он должен считывать образы, картинки. Потому что оператор ПТУРа, наводит ракету на цель, он не думает координатами, он видит картинку.
И теперь самое интересное! «Он реагирует на желание его уничтожить, так сказать, на импульс ненависти» … «танк воспринимает все данные наводки, пока они держатся в голове артиллериста, в момент перехода к действию, уловив этот импульс, танк уходит с того места куда направлен выстрел». Вспоминаем момент с кораблем – Танк остается неподвижен. То есть к финалу Танк полностью переписал даже заложенную Ученым программу.
Это однозначно говорит о том, что в Танке не Виртуальный Интеллект, а просто Интеллект. Он способен не только обучаться, он способен эволюционировать, меняя свою программу, меняя приоритеты и цели, созидать, как бы странно это ни звучало. Ведь изменение собственной программы действий – это в своем роде созидание.
Дрон ВВС США не менял своих приоритетов, он действовал строго в рамках программы, просто в ней были дыры и логические ошибки. Всё, что надо было сделать – изменить приоритет набора очков на исполнение команд оператора. Танк «Полигона» сменил собственный алгоритм действий. Кстати, он это сделал достаточно быстро. Если при первых выстрелах он реально уходил с точки прицеливания, то потом начал маневрировать, уходя от прицеливания.
Ну что, ссылки? Да, «Большая игра»… Нам обещали в начале марта сделать иллюстрации. Как только получим – сдаём книгу. Там и про ИИ будет. А пока вот: в текстовом и аудио исполнении, книги в лабиринте (бумага). А если вам больше нравится городское фэнтези, то на «Автор Тудей» – цикл книг Наталии «Хороших здесь нет».
P.S. Это третья редакция статьи. Мы решили не писать много о «социальной» части мультфильма. Мы за мир, но за мир без нацизма и колониализма.
P.S.S. Про минометную мину. Если вам попалась такая находка – немедленно вызывайте полицию. Они сами привлекут саперов и всё сделают. Сейчас не середина девяностых, когда это происходило у нас. И главное: если капсюль пробит – немедленно уходите. Торчит хвостовиком вверх – уходите. Есть вмятины на корпусе – уходите. Эти подарки могут пролежать полста лет, и потом решить бабахнуть. Отойдите на безопасное расстояние и только потом вызывайте полицию.
