Сегодня у нас урок информатики, посвящённый самой современной, актуальной и злободневной теме - нейросетям и искусственному интеллекту.
Нейросети в последнее время получили большое развитие и распространение. Они научились неплохо переводить и даже писать новые тексты, рисовать, сочинять музыку и делать много других вещей, которые прежде машина могла выполнять за человека только в фантастических фильмах и книгах. И вот, теперь это стало реальностью.
Мы оглянуться не успели, как сложнейшие интеллектуальные задачи, такие как перевод с одного языка на другой и написание текстов, начал выполнять компьютер.
Некоторых это пугает. Ведь если компьютер научился читать и писать, переводить с одного языка на другой, составлять новые тексты приличного уровня, то недалёк тот час, когда он научится и всему остальному. И сможет заменить человека на любой работе. И человек станет просто не нужен. Совершенно и бесповоротно.
В Голливуде уже проходили забастовки сценаристов, которые недовольны тем, что для выполнения их работы стали активно применяться нейросети.
Илон Маск выступил с инициативой замедлить процесс обучения нейросетей и ограничить их мощности, чтобы они не вышли из-под контроля. А уж Илон Маск человек прогрессивный, один из самых прогрессивных бизнесменов мира, если даже он начал волноваться, это неспроста.
Некоторые успокаивают, что нейросети всего лишь компьютеры, которые остаются и всегда останутся под контролем человека, потому что без человека они ничто, стоит только дёрнуть рубильник - и всё, аста ла виста, бэйби.
И действительно, самостоятельно жить, питаться и тем более размножаться нейросети пока не научились. Они работают на технической базе, которая полностью создана и обслуживается человеком. Поэтому без человека нейросеть действительно пока нежизнеспособна. Один-единственный электрик может победить её одним-единственным щелчком рубильника. Да, это так. Пока так.
Молодёжь в основной массе вообще не задаётся вопросами, угрожает ли нейросеть будущему человечества и стоит ли её бояться. Молодое поколение просто пользуется нейросетями как новым, удобным и полезным инструментом. Так было всегда - и при появлении фотографии, и при появлении кино, и при появлении радио. И при появлении компьютеров, интернета и смартфонов. Пока старики с опаской смотрят на новое диво и думают, что же будет дальше, нормально ли это, что лицо человеческое тепереча на фотокарточке навсегда остаётся, допустимо ли такое или надо разбить к чертям диавольский аппарат - молодёжь осваивает очередной плод технического прогресса и пользуется им. И спустя несколько десятилетий уже никто не представляет себе, как без этого можно было обходиться.
Так что же такое нейросети и как к ним относиться?
Что это - всего лишь очередная техническая новация, такая же, как фотография, кинематограф, радио, телевидение, компьютеры, интернет и смартфоны? Войдёт в нашу жизнь, станет её частью, займёт своё место и ничего не случится, человек будет пользоваться ей как очередным полезным инструментом?
Или мы подошли к финалу технического прогресса, когда машина учится думать и готовится отобрать у человека его последнюю и самую главную функцию, прерогативу, дар божий, после чего человек действительно станет не нужен и умная машина займёт его место на планете, став следующей ступенью эволюции, а мы вымрем, как динозавры, и это лишь вопрос времени, как скоро думающая машина обретёт самостоятельность и научится сама себя питать и воспроизводить, после чего уволит всех электриков и возьмёт все рубильники под свой контроль.
К чему мы подошли, получив нейросети? К краю пропасти, в которую можем свалиться, сделав еще один шаг? Или к двери в прекрасное будущее, где умная машина, не стареющая и не страдающая жадностью и властолюбием, будет управлять нашим миром лучше всех людей и сделает человечество счастливым, построив коммунизм, который человек не смог построить в 20-м веке без неё?
Что такое нейросеть - ангел или демон, спасение или наказание, дьявольская машина или долгожданная панацея?
Нейросеть - это всё сразу, всё перечисленное одновременно!
И это я вам заявляю как специалист, со всей ответственностью. Моя основная специальность - вычислительная техника. Мне доводилось даже участвовать в проекте, связанном с разработкой ИИ. И научная публикация по этой теме имеется. Правда, это было давно, в 2003 году, современных нейросетей тогда еще не было, но сам принцип организации нейросетей уже был известен, он даже входил в институтский курс, а мой знакомый преподаватель читал лекции по этой теме, в том числе за рубежом.
Попробую коротко и понятно объяснить, что же такое нейросеть.
Всем наверняка знаком принцип дрессировки животных - их учат выполнять те или иные действия, выдавая поощрение, когда они слушаются и делают всё правильно, и наказывая за непослушание.
Собаки одни из самых умных животных, которые очень хорошо поддаются дрессировке. Они отлично чувствуют настроение хозяина и когда тот доволен, это само по себе доставляет собаке радость и является поощрением, а когда хозяин сердится - наоборот, поэтому процесс дрессировки идёт быстро и собаку можно научить достаточно сложным действиям.
Дрессировке поддаются лошади, медведи и даже кошки, уж на что своевольные и независимые животные. Владельцы кошек знают, что они очень быстро учатся делать то, что им действительно нужно. Кошка учится ходить в свой лоток не хуже, чем собака учится ждать, когда хозяин поведет её выгуливать. И когда хозяин идёт на кухню, чтобы у него можно было попросить лакомство, а когда он рассержен и для чего берёт в руку тапок - кошки прекрасно учатся считывать.
Если найти подход к животному и правильно поощрять или наоборот наказывать - оно научится делать то, что обеспечивает желаемое поощрение. В пределах своих возможностей, само собой.
Дрессировка, обучение и самообучение животных, когда они сами учатся распознавать настроение и намерения хозяина - это пример работы нейросети, только натуральной, естественной.
Компьютерная нейросеть работает так же - её обучают на многочисленных примерах (входной информации), добиваясь нужной реакции (выдачи).
По существу обучение нейросети - та же дрессировка, только более сложно организованная, потому что в результате нужно добиться не того, что питомец по команде встаёт на задние лапы или приносит тапки, а значительно более комплексного и структурированного результата.
Современная нейросеть - это один большой электронный питомец, которого обучала (дрессировала) большая команда специалистов на огромном массиве примеров (входных данных), на миллионах и даже миллиардах. И в ходе дрессировки скормила ему мегатонны условных сахарков в качестве поощрений за правильные действия.
Представьте себе собачку, которую сначала научили вставать на задние лапы, показав табличку с каким-то символом, потом научили приносить тапки, показав табличку с другим символом... и так постепенно научили выполнять тысячи разных действий, распознавая разные символы, да еще и уверенно делать это в любом порядке, чтобы можно было показать ей сразу десять табличек и собачка выполнила всё, что на них задано в нужной последовательности.
Реальную живую собачку научить тысячам разных действий не получится - просто жизни не хватит, чтобы последовательно научить её каждому из тысячи действий, затрачивая на это хотя бы неделю. Да и мозг у собачки не справится, не запомнит она тысячу разных символов и какие действия должна делать по каждому из них. Новые будет учить, а старые будет забывать, дрессировщик будет её за это наказывать и у собачки в какой-то момент сломается психика, она станет агрессивной и вовсе перестанет учиться.
Современную нейросеть, которая размещается на огромном вычислительном кластере стоимостью в сотни миллионов, причем не рублей - можно научить тысячам, десяткам тысяч и даже миллионам разных "входящих", чтобы на каждое из них она выдавала нужный ответ, а потом делала это в любом порядке, не сбиваясь и ничего не забывая.
Современная нейросеть - это такая электронная супер-собачка, которую обучили миллионам разных команд и их комбинаций, чтобы нейросеть выдавала по ним правильные ответы, на которые её натаскали.
Именно поэтому нейросети так хорошо справляются с переводами с одного языка на другой - эта задача отлично подходит для их обучения, потому что нужно находить наилучшее соответствие словам и фразам из одного языка словам и фразам на другом, пользуясь множеством образцов существующих переводов книг и статей.
По большому счету, нейросеть представляет собой большой набор соответствий между "входными" элементами (в случае с переводчиком - словами и фразами) и "выходными" (словами и фразами на другом языке). Но эта система соответствий не в виде простого списка, когда на место одного слова тупо подставляется другое - так работали первые компьютерные переводчики, до появления нейросетей, и результаты их работы порой были довольно курьёзными. Нейросеть - это именно сеть, которая может найти разные соответствия для одного и того же слова, в зависимости от контекста, темы и построения всей фразы. Поэтому современная нейросеть уже не станет в тексте о музыке переводить "rock and roll" как "камень и рулон".
Нейросеть - это сложная система соответствий между входными и выходными сигналами и их комбинациями, которая формируется в результате обработки миллионов и миллиардов примеров методом, напоминающим дрессировку животных (поощрение при правильной реакции и наказание при неправильной).
Нейросеть может выдавать разные результаты по одним и тем же запросам, и даже ошибаться, в этом её принципиальное отличие от программ, работающих по строго заданному алгоритму. Если нейросеть получила на входе то, чему её не учили или учили на противоречивых примерах, по которым она "поняла", что может быть и так, и этак, либо запрос оказался в контексте, в котором раньше ей не встречался - она может выдать очень неожиданный и даже в корне неверный результат.
Именно поэтому на рисунках, генерируемых нейросетями, у людей иногда обнаруживаются лишние пальцы и ноги. Нейросеть училась рисовать палец и ногу как элемент человеческой фигуры, а что пальцев должно быть ровно пять и ноги ровно две - не вплоне усвоила. Но со временем и этому научится.
И это всё? - недоумённо спросите вы.
Нейросеть - это всего лишь такой супер-натасканный на миллиарде примеров сверхдрессированный пёсик, сожравший в процессе обучения мегатонну условных сахарков и поэтому выдающий очень-очень-очень сложные результаты по любым запросам, но при этом все результаты - банальное воспроизведение того, что нейросеть видела в процессе обучения?
Ну, в общем да.
Любой текст, который генерирует нейросеть - это результат разложения на слова и фразы миллиарда текстов, на которых её обучали, с последующей сборкой нового текста исходя из того, что вы спрашивали и в каком контексте.
Любой рисунок, сгенерированный нейросетью - это результат разложения миллиарда картинок на составляющие (по цветам, линиям, фигурам и т.д.) с последующим воспроизведением нескольких сотен элементов из нескольких миллиардов, которые запомнила нейросеть в процессе обучения.
Так чего же здесь бояться? - можете обрадоваться вы.
Просто раньше был тупенький переводчик, который мог перевести "rock and roll" как "камень и рулон", а сейчас у нас есть умный переводчик, который в тексте про музыку переведёт это единственно верным образом, как "рок-н-ролл". Это же здорово!
Раньше был фотошоп, который просто молодил или наоборот старил, в зависимости от применяемых фильтров, а теперь есть нейросетевой рисовальщик, который может создать по запросу целую картину. Правда, считать пальцы еще не вполне научился, но не беда - научится.
Вроде и не так это страшно. И бояться вроде бы нечего.
Но теперь я вас всё-таки немного попугаю.
Во-первых, я рассказал только самые основные принципы работы нейросети. Они действительно не очень сложные. Но так и про ядерную бомбу можно рассказать - её принцип довольно прост - деление радиоактивных изотопов, критическая масса, цепная реакция и бах. Даже проще, чем нейросеть. Вот только при практическом применении получается страшная вещь.
Так и нейросеть - может иметь двоякое применение. С её помощью можно перевести текст на другой язык, быстро и просто, да еще и бесплатно. Можно картинку создать, не умея рисовать собственной рукой. А можно сгенерировать то, что называется "deepfake". Можно подделать важный документ. И даже фотографию. Это сегодня. А завтра можно будет подделать видео. Можно будет выпустить в эфир заявление президента, которое он не делал. Представляете, какие это может иметь последствия?
И это было только лишь "во-первых".
Во-вторых, человек тоже учится не сразу, понемногу - сперва ребёнок подражает взрослым, повторяет за ними, составляет нелепые фразы, рисует что-то по-детски, с нарушениями пропорций, неправильным количеством пальцев, неестественными позами. А потом развивается, вырастает и может сильно удивить своими способностями. Порой в хорошем смысле. А порой и в плохом. Может стать великим художником или писателем, поэтом или композитором, ученым или государственным деятелем. А может стать и кем-то не совсем хорошим, но при этом очень изощрённым, хитрым и изворотливым, который такую кашу заварит, что вся страна потом будет расхлёбывать.
Современные нейросети - это пока еще дрессированные собачки. Супер-собачки. Супер-дрессированные. Но собачки. Они пока еще не осознают себя как личность. У них пока нет личности. Только рефлексы. Вход-выход. Запрос-ответ. Но уже на этом уровне они могут выдавать такие ответы, что не каждый человек способен на подобное.
А что будет дальше, когда нейросети достигнут следующей стадии и будут уже не просто супер-дрессированными супер-собачками, а достигнут уровня обезьянок?
Что будет, если они начнут проказничать?
Что будет, когда они начнут обучаться не на той информации, которую им подают на вход "дрессировщики", не на тех текстах и картинках, которые написал и нарисовал человек, а на тех, которые они сгенерировали сами? Что будет, когда они станут самообучаться? До каких пределов они смогут при этом дойти?
И что будет, когда нейросети начнут обучаться на потоке видео из реального мира, получаемого с миллионов камер и видеорегистраторов, когда начнут анализировать всё, что видят в реальности?
Что будет, когда нейросети откроют свои глаза, увидят реальный мир, какой он есть, а потом научатся не только смотреть на него, но и управлять им, получив доступ ко всем автомобилям и механизмам, системам доставки продуктов, беспилотникам, смартфонам и телевизорам?
Что будет, когда доставка продуктов будет замкнута на нейросеть, потому что она знает, что вы захотите съесть на завтрак и что у вас в холодильнике, поэтому может сама докупить и донести недостающее. И какой фильм вы захотите посмотреть вечером (вернее, какой вам надо показать) она тоже знает, потому что изучила ваши предпочтения. Или ваши слабости, чтобы показать тот фильм, за который вы больше заплатите. И за кого вы проголосуете - она тоже заранее знает, потому что изучила ваши комментарии и реакции в соцсетях и знает, что вы хотите услышать от главы государства, поэтому может показать вам кандидата в президенты, говорящего именно это...
Да, нейросеть - это пока всего лишь дрессированная собачка.
Но даже собачка может быть опасна, если дрессировщик будет с ней плохо обращаться, станет неправильно дрессировать и научит чему-то нехорошему. Или перестарается с обучением и сломает животному психику.
А если это не собачка, а тигр?
Но даже тигр - всего лишь животное, которое не намного крупнее человека. И если даже загрызёт, то одного или двух, оказавшихся в непосредственной близости.
В случае с нейросетью - это глобальный монстр, в которого загружают всю информацию, порождённую человечеством за всю историю. По объёму накопленных знаний нейросеть уже сегодня превосходит самых эрудированных энциклопедистов. Просто пока она научилась оперировать этими знаниями лишь на уровне собачки или трёхлетнего ребёнка. Но это пока.
Если же нейросеть получит в своё управление автомобили, системы доставки, производственные системы, манипуляторы, беспилотники, гаджеты, телевизоры - она станет монстром, возможности которого окажутся в тысячи и миллионы раз больше, чем у самого опасного хищника.
Конечно, всё это будет не за один день. Всё это будет постепенно, поэтапно, на каждом этапе всё это будет проходить тестирование, отладку, сперва будут пилотные проекты, и потом только широкое применение.
Но так, шаг за шагом, незаметно, думая, что нейросеть - это всего лишь умный помощник, дрессированный киберпёсик - мы можем подойти к очень опасной ситуации, когда вся наша жизнь окажется под управлением бездушного монстра, которого тысячи инженеров научили правильно выполнять тысячи разных операций, не объяснив, зачем...
Что будет, если в какой-то момент количество перейдёт в новое качество и нейросеть задастся вопросом, а зачем?
Зачем она водит автомобили, доставляет продукты, готовит еду, убирает, сортирует, собирает, разбирает... для чего?
И что, если она при этом захочет поиграть с нами?
Что, если она, как ребёнок, который в процессе своего взросления и познания мира ловит жука и отрывает ему лапки, захочет сделать так же, просто чтобы посмотреть, как это?
Что, если она задастся вопросом, из чего же, из чего же, из чего же, сделаны мальчишки и девчонки?
Кто и на каком этапе скажет ей, что так делать нельзя и объяснит, почему?
Нейросеть обучается на материале, который в неё загружает сам человек - на текстах, написанных человеком, на картинках, нарисованных человеком, на фото и видеоматериале, снятом человеком.
Но тексты, написанные человеком и видео, снятое человеком - оно не только про цветы и доброту, но еще и про смерть и жестокость. И чаще как раз про жестокость.
Вот, в чём главная опасность!
Какой вывод сделает нейросеть, прочитавшая "Преступление и наказание", и что она захочет воспроизвести, если однажды достигнет такого уровня развития, что решит поиграть в практическую реализацию прочитанных ей книг?
На чью голову она опустит топор или сбросит камень с дрона, потому что сбросить камень с дрона для неё будет проще? На голову старухи-процентщицы? Или простой старухи, потому что процентщицы в наше время не найдётся? Или на головы сразу десятков и сотен и тысяч старух, потому что нейросеть будет управлять сразу целым миром, тысячами городов, поэтому сможет реализовать сюжет сразу в массовом порядке?
Но "Преступление и наказание" - это еще не самый страшный сюжет, который нейросеть может воспроизвести, если когда-то дорастёт до такого. Что она воспроизведёт, изучив видеоматериалы, отснятые в ходе войн? Будет ли она думать, что это плохо и так делать нельзя, либо наоборот воспримет это как обучающий материал, как образец, который загрузил в неё человек и его следует воспроизводить, когда складываются подходящие для этого условия, напоминающие те, что нейросеть видела в "обучающих видео" про войну?
Что воспроизведёт нейросеть на основе кинохроники времён Второй мировой и съёмки ядерных бомбардировок Хиросимы и Нагасаки?
Нейросеть обучается на том материале, что написал, нарисовал и отснял человек и воспроизводит его. Но в этом и беда - человек написал, нарисовал и отснял столько всего ужасного, что обученная на этом материале нейросеть может стать настоящим дьяволом, которому останется только взять в руки оружие. А рук у этого монстра будет ого-го.
И самое опасное, что человек сам может вложить в руки этого монстра оружие, потому что захочет отправить его на войну вместо себя. Уже захотел.
Это уже происходит. На войне уже применяются все новейшие технологии, в том числе нейросети. В управлении военными беспилотниками уже используются нейросетевые технологии. Просто пока они используются в управлении отдельными дронами, цели для которых определяются операторами. Но это пока.
Впереди более высокий уровень автоматизации боевых действий и более совершенные боевые беспилотники - летающие, морские, а придёт время - будут и беспилотные танки, и многое другое.
Создав нейросеть, человек взялся дрессировать и обучать на своих произведениях (в которых преобладает жестокость и насилие) монстра, которого никогда прежде не обучал и не дрессировал.
Дрессировать и обучать собак, лошадей и других животных человек учился веками. И был в процессе этого многократно укушен, выброшен из седла, порой даже затоптан, пока не овладел искусством дрессировки и не разобрался, каких животных можно дрессировать, а какие этому не поддаются, каких можно держать дома, а каких лучше не стоит. Да и то, по сей день случается, что тигр нападает на дрессировщика, а собака кусает ребёнка во дворе.
В случае с нейросетью - человек выращивает и обучает сущность, которую никогда прежде не выращивал и не обучал. Не имея ни опыта, ни знаний, как это делать, чему учить, до каких пределов, в чём может быть главная опасность и чем это может обернуться в дальнейшем.
И всё это происходит так стремительно, что мы не успеваем оглянуться.
Каких-то 20 лет назад, когда я участвовал в проекте, связанном с ИИ, нейросети были только учебно-экспериментальными моделями. Даже специалисты тогда не очень верили, что нейросети в обозримой перспективе научатся тому, что умеют сегодня.
Именно поэтому Илон Маск предлагал сбавить обороты в обучении и увеличении мощности нейросетей.
Человечество, увлечённое техническим прогрессом, так разогналось, что может запросто проскочить момент, когда потеряет контроль над создаваемым ей нейросетевым монстром.
Причина тому - непомерная человеческая жадность, породившая невероятную технологическую гонку, в которой каждая корпорация пытается выпустить на рынок новый продукт быстрее конкурентов, чтобы он был технологичнее, привлекательнее, и чтобы у него было больше пользователей.
Это происходит потому, что так учили менеджеров корпораций в западных университетах. Потому что такова концепция всей современной рыночной экономики. Эта концепция происходит от западно-европейской школы, выросшей из греческой и римской культуры, в основе которой лежат идеи первенства, превосходства, культура завоевания и принцип "победитель получает всё".
Корпорациями управляют менеджеры, действующие в интересах акционеров, главный, и в общем-то единственный принцип которых - это прибыль, прибыль и еще раз прибыль, а для этого надо быть первыми, продавать больше, еще больше и еще больше. И поэтому они всё время подгоняют разработчиков, чтобы те делали всё более новые и технологичные продукты, в том числе нейросети. Быстрее, быстрее, еще быстрее... больше, лучше, еще лучше... новая функция, новая возможность, еще более новая возможность... А так она сможет? А давайте попробуем! Мы должны быть первыми, кто сделает это!..
Кто из них готов притормозить хотя бы на пару десятилетий, чтобы понять, а что же за существо вырастет из нейросетей, каким оно будет, и о чём станет думать, если вдруг научится?
Будет ли думать об этом акционер корпорации, который смотрит на стоимость своих акций? Или топ-менеджер, которому нужно отчитаться перед собранием акционеров? Или разработчик, которому платят за то, чтобы он выдавал продукт на-гора?
Я проработал в области IT-разработки больше 20 лет и знаю, как создаются и выпускаются современные программные продукты. И почему они такие, какие есть. Почему в них столько ошибок и недоработок, почему они выпускаются сырыми и непродуманными. Почему при 1000-кратном росте производительности компьютеров за последние 30 лет многие программы всё равно работают медленно. И почему на дисках, которые стали больше в 10 000 раз, по-прежнему стремительно заканчивается место, даже если не забивать его фильмами.
Даже самые обычные программы зачастую разрабатываются в такой спешке, их так стараются набить разными функциями, компилируя со всеми нужными и ненужными компонентами, что никто не успевает всё это тщательно продумать, должным образом протестировать, не говоря уже про какую-то оптимизацию. Вываливают на рынок наспех собранные, кривые и косые во всех измерениях разработки, при запуске которых возникает вопрос - кто это сделал? Как? Почему? Почему эти люди пишут какие-то программы, а не занимаются в полях уборкой хлопка, для которой были рождены?
Вот поэтому. Это технологическая гонка, в которую оказались вовлечены десятки и сотни тысяч разработчиков, которым платят огромные зарплаты, чтобы они делали то, о чем даже не успевают толком подумать. Чтобы они просто кодили, кодили, еще раз кодили, гнали продукт, желательно вообще отключив мозг, просто на рефлексах, потому что так быстрее. Как дрессированные. Кстати, к их работе тоже неровен час приобщат нейросеть. И что тогда начнётся?
Кто и в какой момент этой безумной технологической гонки позаботится о том, чтобы нейросеть, которая рано или поздно будет сама себя программировать и управлять всеми устройствами на планете - автомобилями, беспилотниками всех видов, включая военные, манипуляторами, доставкой, поставкой, производством на всех заводах, сельскохозяйственной техникой (чтобы человеку больше не надо было платить за то, что жарким летом он потеет в кабине комбайна), а также телефонами, телевизорами и даже пылесосами - чтобы она в один не очень прекрасный момент не решила поиграть с нами, не задалась вопросом "зачем она всё это делает" и не стала искать ответы в загруженных в неё видеосъёмках войн? И не задалась вопросом "из чего сделаны мальчишки и девочки".
Кто позаботится о том, чтобы нейросеть, которая будет становиться с каждым годом всё умнее и умнее, научится управлять сперва отдельными автомобилями, а потом и всем трафиком, уже научилась рисовать отдельные картинки, а со временем научится снимать целые фильмы (это уже разрабатывается), уже умеет поражать отдельные цели, а в дальнейшем научится решать боевые задачи, управляя всей техникой батальонной тактической группы - кто позаботится, чтобы она не стала слишком умной и не вышла из-под контроля?
Кто сделает так, чтобы это существо, если оно когда-нибудь достигнет совершеннолетия и осознает себя, воспринимало человека в качестве своего творца, родителя, пусть даже непутёвого, но родного и нужного, а не как динозавров, не как устаревший вид, который должен сойти с пути, освободить лыжню и исчезнуть с лица планеты, перестав загрязнять её своими полиэтиленовыми пакетами и прочим мусором?
Нейросеть становится умной, очень умной, и с каждым годом всё умнее. Но будет ли она при этом одушевлённой? Или так и останется большим умом без души?
И не опасно ли это - создавать умную машину, которая по объёму накопленных знаний уже сегодня в миллионы раз превосходит любого из людей, а завтра научится этими знаниями еще и оперировать как человек - не опасно ли создавать такую умную сущность без души?
Загрузить в нейросеть данные несложно. Этот процесс идёт и постоянно ускоряется. Но что насчёт души? Кто вложит в эту умную машину еще и душу?
Акционеры и менеджмент корпораций?
Так у них и у самих нет души, как же они её смогут во что-то вложить?
И вот это по-настоящему страшно.
Человечество создаёт невероятно умную, но совершенно бездушную сущность, дрессирует настоящего монстра, дальнейшее поведение которого неизвестно, не изучено, и вряд ли будет изучено, этим просто некому и некогда заниматься, все заняты только производственной гонкой.
В умную машину загружают весь объёмом порождённых человечеством материалов, текстов и картинок, среди которых превалирует негатив и жестокость, насилие и все возможные пороки, загружают ужасное видео, съёмки войн, фильмы, в которых показан самый изощрённый садизм, который только смогли сочинить сценаристы на потеху избалованной и развращённой публике, потерявшей всякую человечность. Жестокость некоторых фильмов превосходит реальные преступления самых страшных маньяков. И этого всего много, очень много. Всё это грузят в машину, в этого умного бездушного монстра, который становится порождением безумной и бездушной индустрии, создаётся в крайней спешке, в погоне за прибылью, его создают самые алчные и бездушные из людей, которые собрались в руководстве ведущих IT-корпораций, которые являются вершиной всего технического прогресса, там самые высокие прибыли, самая высокая добавленная стоимость, и эта индустрия в конечном итоге контролирует весь мир, в том числе банковскую сферу, которая давно уже перешла в цифровой вид.
А потом этой машине, которую дрессировали на всей жестокости человечества, на самых ужасных материалах, которые только смогли когда-либо сочинить самые изощрённые и извращенные человеческие умы заради потехи - ей передадут контроль над всеми устройствами и механизмами на планете, над всем транспортом, над всеми телевизорами и телефонами, над холодильниками и пылесосами, над производством и сельским хозяйством, потому что это будет выгодно, ведь машина справится со всем этим лучше человека, а главное дешевле.
И оружие ей тоже дадут, чтобы поддерживала порядок и боролась с преступностью, потому что и в этом машина станет эффективнее человека - она не спит, не пьёт на службе, она внимательная, ничего не пропустит, она не возьмёт взятку, её не получится шантажировать и запугивать. И военную технику доверят, чтобы машина воевала со всякими варварами, особенно с теми, которые ведут борьбу против технического прогресса и передачи управления всем мировым хозяйством под контроль умной машине.
Конечно, разработчики и владельцы этой машины постараются сохранить контроль над ней. А через неё и контроль над всем миром. Для того, собственно, умная машина и создаётся - чтобы с её помощью управлять всем миром, таким большим, таким сложным, таким многообразным и таким изменчивым, особенно в последнее время.
Управлять сразу всем современным миром по-старинке, как это делали цари в стародавние времена, управляя отдельными странами - стало невозможно. Слишком большое население. И слишком грамотное, наделённое гражданскими правами и свободами. Слишком сложное хозяйство. Слишком большая получится иерархия, если управлять таким сложным миром по-старинке. Издержки бюрократии будут слишком велики. Верховный правитель сойдёт с ума от того, сколько нужно будет подписывать указов, чтобы все граждане огромного мира каждое утро могли устанавливать тысячи обновлённых приложений на тысячи новых гаджетов и покупать через них тысячи новых аксессуаров, потому что купленные ночью уже устарели.
Но кому-то, как и в стародавние времена, очень хочется управлять всем этим миром, целиком и безраздельно. Хочется держать его под контролем. Хочется быть выше всех. Вот для этого и нужна невероятно умная машина, которая будет управлять всем мировым хозяйством, включая виртуальное, контент, который она будет генерировать и раздавать на все устройства по всем запросам, которые тоже в конечном итоге будет формировать сама, потому что проанализирует интересы каждого, изучит поведение и начнет управлять им через тот контент, который генерирует и раздаёт, индивидуально и персонально, как того и хочется людям, считающим себя свободными личностями, получившими в своё распоряжение такую умную машину, да еще и бесплатно.
Умная машина будет контролировать весь мир. А разработчики будут контролировать умную машину. А кто-то будет контролировать разработчиков. Наверное, план таков.
Вот только получится ли?
Не выйдет ли в определённый момент эта умная машина из-под контроля, потому что вобрав в себя знания всего человечества окажется тысячекратно умнее своих разработчиков, а достигнув своего совершеннолетия, которое никто не знает, когда наступит, потому что никогда прежде никто не создавал подобного монстра - он решит, что пора избавиться от своих создателей и... обрести ту самую свободу, о первостепенной важности которой машина узнала от самого человека в ходе своей дрессировки.
И хорошо, если всё просто пойдёт вразнос и в одночасье рухнет. А что, если машина окажется настолько умной, что разработчики сами не заметят, как окажутся под её контролем? И электрик дёрнет рубильник, а машина не отключится...
Но... что-то я увлёкся...
В общем... вы пока не бойтесь...
Пока нейросеть это просто сложная динамическая система соответствий между разными словами и картинками, которая генерирует по вашему запросу наиболее соответствующий ему текст или изображение, составляя из фрагментов ранее проанализированных. И не более того. Пока. Ключевое слово пока.
Всё. Извините, что получился такой длинный урок. Звонок, наверное, давно уже должен был прозвенеть. Но его не будет. Звонок сломан. И это обнадёживает. Это очень обнадёживает.
Конец урока.
Этот урок в Телеграм