Один из наших видных банкиров Герман Греф в ходе выступления на Moscow Startup Summit сказал, что «в течение ближайших 10 лет появится искусственный суперинтеллект (ASI), способный справиться с задачами, которые на сегодняшний день считаются неразрешимыми для человечества. Кроме того, физические проявления искусственного интеллекта приведут к вытеснению людей из наименее квалифицированных сфер занятости».
Сергей Михеев: Мэр Москвы Сергей Собянин задал главе Сбербанка Г. Грефу вопрос: заменит ли его самого искусственный интеллект? Однако тот уклонился от ответа. Мне кажется, что это иллюстрация именно того подхода, о котором говорил М. Ковальчук: что, когда будет суперэлита, то она себя из процесса исключать не захочет, а всем остальным будут рассказывать про ИИ и т.д. Мне кажется, что Греф - один из энтузиастов такого взгляда на жизнь, хотя вроде как с пользой для нашей страны.
По поводу его оптимистических и сверхоптимистических прогнозов: мне думается, что такие люди, как он (странные, но романтики), очарованы полуфантастическими прогнозами по поводу развития ИИ. Сами они то ли верят в эту кампанейщину, то ли, порождая её, тоже к ней присоединяются, в итоге становясь жертвами научно-и ненаучно-фантастических рассказов. «В ближайшие 10 лет суперинтеллект порешает все проблемы». Правда что ли? Это слышали в истории человечества много-много раз на разных других этапах: «Порешает все вопросы появление электричества/автоматического оружия/компьютера!»и т.п. Я так скажу: войны как шли, так и идут; человеческая подлость никуда не делась; измена и предательство - что с электричеством, что без электричества - так они и есть; воровство никуда не исчезло - просто переместилось в цифровую сферу; мошенников также много. Тогда какие проблемы человечества порешает ИИ? Здесь главный вопрос в том, что люди исключают некую духовную и морально-нравственную составляющую из оценки того, в каком состоянии находится человечество и куда оно идет.
Казалось бы: есть невероятные достижения в области технического прогресса и огромное количество денег в некоторых местах на нашей планете, но, несмотря на это, голод, нищета, болезни никуда не уходят. Почему? Потому что остаются вещи, связанные с тем, как вы оцениваете добро и зло, и остаются такие вещи, как жадность, подлость и т.д. И никакие электричество, компьютеры, квадрокоптеры, гиперзвуковые ракеты ничего с этим сделать не могут! И с вашим ИИ, господа романтики, будет ровно то же самое! ИИ, может быть, и решит какие-то задачи, но с большой вероятностью, кроме этих суперзадач, он породит ещё и суперпроблемы. Будучи использованным в том числе и в злых целях,он, например, «наградит» нас какими–то новыми суперболезнями (я уверен, что он для этого и используется, в том числе уже сейчас), какими-нибудь суперспособами воровства и мошенничества, каким-нибудь супероружием, которое будет способно еще больше убивать людей и т.д. Так было на всех этапах развития человечества, особенно когда оно начало верить в научно-технический прогресс как в панацею от всего, ровно так будет и с этим.
Говорят: «Он решит все математические уравнения». А это хорошо или плохо? Греф исходит априори из того, что это хорошо.
Что человеческий мозг не мог решить, а компьютерный «мозг» сможет.
Сергей Михеев: Представьте себе: он решит и создаст супервирус, который выкосит 90% человечества, или супероружие, которое всё уничтожит! Хорошо это или плохо? Такой технический, очень примитивный, упрощенный для дурачков подход к оценке того, что такое прогресс/не прогресс, и приводит к тому, что на каждом этапе развития человечества повторяется та же самая история: обожествляется технический прогресс, появляются какие-то достижения, которые выводятся за рамки морали, нравственности, хорошего/ плохого, доброго/злого, светлого/темного, и в итоге они приводят к тому, что все человеческие грехи воспроизводятся заново - только на новом технологическом уровне, способном убивать или обманывать еще большее количество людей.
Я готов держать пари со всеми, что ровно так же будет с вашим ИИ: никакого счастья человечеству он не принесет, потому что счастье нельзя изобрести технически. Интеллект можно искусственно симулировать, а искусственных счастья, любви, радости, доброты, дружбы не бывает и никогда не будет! Для того, чтобы идею искусственного счастья привести в исполнение, надо будет уничтожить всех людей. Идея уничтожения всех людей обязательно последует за развитием идеи о всесилии ИИ и его объективности. Греф на этом форуме говорит: «Надо освободить машины, надо дать им больше возможностей принимать решения». Это абсолютно неизбежно приведет к идее уничтожения цивилизации как таковой: человек мешает.
Источник проблемы - и его надо убрать.
Сергей Михеев: Да. Как только человек становится не целью, а средством, вы сразу придете к мысли о том, что он мешает, не нужен, несовершенен, поэтому должен быть уничтожен или насильно усовершенствован. Вся эйфория по данному поводу именно к этому и ведет! Люди, которые поумнее, давно это поняли и предсказали.
Какие уравнения ИИ решит, чтобы всех людей сделать добрыми, хорошими и счастливыми? Никакие. На мой взгляд, претензии на то, чтобы быть гуру прогресса, в данном случае необоснованные с точки зрения глубины содержания. Например, разговоры о том, что через 2-3 года ИИ заменит неквалифицированный физический труд в больших городах…Я готов заключить пари с кем угодно (включая Грефа) на всё, что у меня есть, что через три года как были дворники во всех городах мира, так они и останутся, независимо от того, решит ИИ все уравнения или нет! Как были курьеры на таратайках, которые развозят не очень качественную еду, так они и останутся, если, конечно, их законом не запретят. Готов заключить пари хоть с Дональдом Трампом, Илоном Маском или Германом Грефом, что ни через два и ни через три года эта ситуация радикально не изменится, потому что их взгляд на вещи очень плоский и пропагандистский.
Это пропаганда, рекламная кампания, кампанейщина. Я не против технологий: я за то, чтобы их разумно осмысливать и применять ровно в той системе ценностей и иерархии, которые они заслуживают, а не выдумывать себе разные байки. Я не против, чтобы ИИ действовал там, где применяется примитивный физический труд, но пока анализ окружающей ситуации не дает надежд на это. Посмотрите, где он сейчас больше всего применяется: в банковской сфере, где он помогает ростовщическому капиталу! А в сфере реального производства не происходит практически ничего или происходит очень медленно. Теоретически это возможно, но, учитывая те тенденции, которые есть сейчас,позволяют мне говорить, что я забьюсь с кем угодно на всё, что у меня есть, что через 1-3 года все те же дворники будут подметать улицы всех городов мира, включая Москву, Санкт-Петербург, Нью-Йорк, Вашингтон и т.д. Почему? Потому что есть другие факторы, кроме утопических мечтаний о том, что ИИ всё порешает! Еще раз говорю, что я лично за то, чтобы «умные» машины, желательно российского производства, заменили неквалифицированный труд, в связи с чем нам приходится завозить миллионы мигрантов. Давайте, продемонстрируйте!
Есть такие прогнозы, что российский банковский сектор сможет в ближайшие несколько лет увеличить свои прибыли на 1,5 трлн рублей. Хочется сказать банкирам: вы эти деньги вложите в разработку производства тех самых «умных» машин, которые заменят неквалифицированный труд! Но этого не будет. Почему? Это вопрос к господам банкирам. Может быть, потому что ИИ не заменит Германа Грефа. Давайте дадим больше свободы машинам только в этой сфере! Например, машинам поставим задачу: как использовать доходы банков для развития производства? Нам скажут: «Это другое».
Банки - это акционерные общества, и руководители банков ответственны перед своими акционерами. Тратить 1,5 трлн прибыли на какие-то разработки по уборке снега – это безответственно перед акционерами.
Сергей Михеев: А делать такие заявления – это ответственно? Он говорит, что «неквалифицированный рабочий труд будет заменен». Хочется спросить: кто и на какие деньги будет этим заниматься, если не вы? Один боится, другой не может. Кто займется в ваших фантазиях вложением денег, разработкой, производством и внедрением «умных, замечательных» машин? Вы ответите: «Производители». А производители говорят, что «с такой процентной ставкой мы не можем концы с концами сводить, производства закрываются». Тогда кто?
Я думаю, что банкиры переадресуют этот вопрос к правительству и скажут: «Дайте денег, и мы займемся». Греф озвучил: «Кого заменит ИИ? Людей самых неквалифицированных профессий – физический AI. Через 2-3 года роботы будут совершенно спокойно не только ходить в качестве машин с пылесосами, но и физически – человекоподобные роботы смогут подметать улицы, подавать еду, готовить еду и т.д.». Это был ответ С. Собянину, который пошутил, что в случае появления роботов-дворников москвичи смогут обращаться к Грефу по поводу неубранного снега напрямую. Смех смехом, но мэр столицы заявил, что в любом случае потребуется начальство: как бы я и мои заместители.
Сергей Михеев: Я лично не против. Вся эта эйфория началась в начале XX века, когда стала развиваться тема «роботизации», «автоматизации»: так все и думали, что это вытеснит неквалифицированный, тяжелый рабочий труд, и кое-где это произошло. Но такой замены, которая ожидалась, так и не случилось. У нас это усугубилось проблемой разрушения большого количества производственных отраслей, где этот процесс шел (манипуляторы, автоматы), но у нас сами отрасли исчезли. А неквалифицированный труд, который остался (на улицах, стройках), что-то никто не спешит заменять.
Слушатель считает, что «слишком много времени уделяется рекламе ИИ, и программа превращается в «искусственную логику»». Имеются в виду наши разговоры, Ваши высказывания.
Сергей Михеев: Эта логика естественная: мы живые люди, и я никогда ничего не читаю с листа - импровизирую всегда вживую, а ИИ считаю проблемой. Давайте не будем о нем говорить, но посмотрите, какая агрессивная кампания идет по всему миру! Речь идет об ограничении прав и перехвате власти, поэтому, чтобы с вами этого не случилось, мы про это и разговариваем. Про какие-то темы мы говорим реже, но и плюс ко всему, мы реагируем на новостную повестку. Если пойдет другая волна новостей, то мы будем говорить о ней. У нас программа ежедневная, и мы не можем игнорировать новости.
Что касается ИИ, то идет глобального масштаба достаточно агрессивная рекламная кампания и реальное внедрение этих новых компьютерных технологий в нашу жизнь, и все мы становимся в той или иной степени зависимыми. Я призываю к тому, чтобы разумно к этому подходить, и не вижу здесь никакой рекламы ИИ. Мне кажется, наоборот - антиреклама.
Я бы сказал: взвешенный взгляд на происходящее, то есть шумиху и продвижение ИИ, который якобы решит все нерешенные человечеством проблемы. Пишет слушатель: «Время балаболов, технологически разводящих оптимистов неумолимо проходит». Наверное, имеются в виду те, кто внедряет в наши умы, что без ИИ через 2-3 года мы и шагнуть не сможем.
Сергей Михеев: Наоборот, они на подъеме и всё более и более захватывают умы, особенно молодого поколения, и именно поэтому я пытаюсь внести каплю трезвого взгляда на эти вещи. Это только начало: вам еще так запудрят мозги ИИ! Реально заменят всех ведущих и телепрограммы: сделают так, что вы и отличить не сможете. Я пару раз слушал зачитываемые нейросетями тексты и поймал, что они очень часто путают ударения в словах.
Программа переводит чью-то зарубежную речь.
Сергей Михеев: Пока их можно распознать, но скоро они добьются того, что это будет всё менее и менее распознаваемо.