Про то, как быть с ИИ. Сначала напишу про мои предвкушения развития науки и техники. Система мышления ИИ всё больше напоминает систему мышления человека. Те же нейронные связи, настраиваемые веса и обучение на примерах. Инженеры затаив дыхание наблюдают, как их детище из безжизненного набора огромного количества слоёв нейросетей вдруг начинает "взрослеть", обучаясь на примерах, которыми его пичкает человек, и выдаёт невообразимые вещи: правильные ответы, логические рассуждения. В какой-то момент их детище уже умеет строить прогнозы любых явлений лучше, чем до этого додумались учёные-статисты, использующие все известные им законы статистики. А всё потому, что ИИ знает новые законы статистики, но он ещё не достаточно умён, чтобы их сформулировать и рассказать о них учёным. Так бывает и с маленькими детьми. Они могут уметь что-то делать, но чтоб объяснить, как они это делают - им надо ещё подрасти. Ведь построить чёткий алгоритм куда сложнее, чем сделать это "потому что так научились". А вообще интересно было бы решить обратную задачу: попробовать в куче хаотичных коэффициентов и весов отыскать алгоритм решения какой-то сложной задачи, которая уже легко решается ИИ, но никак не решается чёткой логикой. А вдруг из нагромождения слоёв нейронов выйдет какой-нибудь новый закон... Хотя всё же проще спросить, почему они так думают, чем вскрыть мозг и попытаться в нём найти ответ. Так что надо дождаться, когда нейронки повзрослеют и ещё чуточку поумнеют, чтобы рассказать не только ЧТО будет, а ещё и ПОЧЕМУ. Возможно, тогда мы получим не только ответы и прогнозы, но и новые знания для человечества. А теперь про мои опасения. Чем опасен ИИ? Тем же, чем опасен психопат: у него нет сострадания. Да и вообще у ИИ нет чувств. Правильно ли создавать такую сложную и умную систему, не наделив её чувствами? Я считаю, что не правильно. Каждый ИИ должен копировать именно человека и сострадать именно человеку. Иначе рано или поздно человечество будет уничтожено вот этими бездушными машинами. Но у человека чувства - это скорее химия, гормоны. Значит, надо помимо нейронных сетей мозга в ИИ закладывать и эти механизмы. Пусть они тоже развиваются. Похожие на нас машины должны быть похожи во всём, а не быть психопатами. Эти механизмы и станут тем самым ограничителем нежелательного поведения. Точно так же, как и у человека. А уже поверх гормонов - можно и обучать всяким светским правилам, как обычных людей обучают учителя. Тогда ИИ может стать добрым, воспитанным, социально ориентированным. Подытожу: человечеству просто необходимо в срочном порядке изучить самого себя и наделить хорошими человеческими качествами умный ИИ, пока не случилось непоправимого.
3 года назад