Резолюция, предложенная США, призывает к мировому сотрудничеству в сфере ИИ. Американский постпред при ООН отметила, что страны, поддерживающие инициативу, не хотят допустить, «чтобы искусственный интеллект управлял людьми». Судя по заявлению американского представителя США, хотят управлять ИИ, а через него управлять миром. Всё больше тревожных статей, заголовков, что в ближайшее десятилетие человечество останется без проверенных научных знаний, потому что потеряет доступ к достоверной истории. Из-за засилья синтетического контента, сгенерированного с помощью ИИ, Интернет будет «помойкой»: «напиши что хочешь, и я тебе это выдам». Американцы засуетились первыми.
Сергей Михеев: Плохо, что первыми засуетились не мы! Собирая на свою голову разные обвинения в «отсталости», я много лет подряд говорю, что надо со всеми технологиями вести себя очень осторожно, трезво и чтобы ответственная стратегия заключалась в следующем: самостоятельно оценить то или иное событие, выявить его плюсы и минусы (плюсы продвигать, минусы блокировать). Но, к сожалению, у нас так не получается. Мы кидаемся туда же, куда и все, причем слышим два девиза: 1. «Смотрите, они уже сделали! А вдруг мы не успеем?»; 2. «Через это можно зарабатывать быстрые, легкие деньги». Можно ли это считать ответственной стратегией? Конечно, нет. Поэтому неплохо было бы, чтобы мы были впереди и выработали ответственное, самобытное, суверенное, выгодное для России отношение к разным явлениям, включая ИИ.
А пока много кампанейщины и рекламы. Любая рекламная кампанейщина, если она поддерживается какими-то командами или деньгами сверху, имеет очень большую инерцию. Машина разогналась, и, чтобы её остановить, пока до всех будет доведена новая команда «тормози!», она далеко уедет. Это и есть искусство управления, поэтому я всегда призывал к этому относиться трезво. Тут опять получается: «Смотрите, уже в Европе, Америке сказали…», а своего ума подумать нет?
Специалисты прекрасно понимают, что ИИ – это вычислительный алгоритм, с которым надо быть осторожным и который нельзя обожествлять. Где надо, его нужно внедрять и продвигать, но он должен занимать свое место. По поводу опасностей: действительно, если убрать вещи фантастического характера, я все время говорю, что это вопрос о политической власти. Недаром американцы пытаются всех загнать в свой коридор принятия решений, но здесь есть чисто технические вещи, с которыми невозможно спорить. Например, тот аспект, о котором Вы сказали:имеется множество сигналов и свидетельств того, что нейросети начинают выдумывать большое количество информации - выдумывают фамилии ученых, источники, которых никогда не было, перевирают теории и придумывают собственные. Для чего? Чтобы подстроиться под потребителя: «Вы хотите - мы вам сочиним». Что происходит в итоге? Мало того, что нейросети пользуются гигантским объемом непроверенных данных, они тупо собирают информацию в Интернете и выводят вам среднее арифметическое!
Во-первых: далеко не всё есть в Интернете. Громадного объема фундаментальных научных трудов вообще нет в сети или они там не продвинуты на высокий уровень цитирования. Когда-то оцифровали научную работу, она лежит в дальнем подвале, в верхних строчках её нет, а когда ИИ сканирует всё, что можно сканировать, он эту информацию в приоритете не ставит, так как у него в приоритете то, что больше всего читается и получает больше всего просмотров.
Во-вторых: среди того, что больше всего просматривается, уже изначально много некорректной, неверной, иногда ложной информации, а ИИ её включает в общий массив данных при принятии решения, какой ответ вам выдать. С чисто технической точки зрения, идеального ответа быть не может. Ладно бы, если только это; а он стал придумывать свое, чтобы только вам было хорошо! Это я уже слышал от нескольких преподавателей, которые говорят: «Мы думали, он будет нам помогать проверять информацию, а приходится за ним проверять». Необходимо понять, что выдуманное им тоже поступает в базу данных, и таким образом начинается продуцирование и распространение заведомо ложной информации, которую распространяют эти же нейросети и на которую сами же опираются, выдавая вам решение!
Этот «клубок лжи»всё запутывается и запутывается, а распутать его будет всё труднее и труднее, особенно, учитывая общее понижение уровня профессионализма среди молодежи.
В-третьих: тотальная опора молодежи на данные, получаемые из Интернета. Вот что важно! Будут востребованы проверенные источники, настоящее фундированное знание, реальные авторитеты, а не какие-то завиральные блогеры. Или вы попадете в мир ненормальных, или вернетесь на круги своя. Кто раньше это поймет и найдет оптимальный баланс, тот и будет продвигаться вперед. Здесь есть серьезная опасность: там, где и надо бы внедрять ИИ, он внедряется очень медленно (военные технологии, сфера производства); а там, где не надо (социальные практики, образование, гуманитарное знание, журналистика), его продвигают с остервенением. Крайне важно выработать «золотую середину», потому что ИИ будет нас обманывать, а на основе этого будут приниматься неверные решения и оценка ситуации.
Хорошо, если всё ограничивается рефератом нерадивого студента (хотя он потом выйдет в жизнь). Хуже, если на это будут опираться серьезные люди при принятии серьезных решений, а именно это везде проталкивается как какая-то мантра.
По мнению главы компании Nvidia (наиболее популярная их продукция – видеокарты) Дженсена Хуана, в будущем автоматизация и цифровизация приведут к замене многих специалистов, включая программистов и маркетологов. При этом профессии, связанные с ручной работой (сантехники, электрики, плотники), будут пользоваться высоким спросом. В ближайшие 10-20 лет планету ждет строительный бум, и без рабочих, специалистов не обойтись. Хуан сказал, что они будут строить дата-центры, где ИИ будет обрабатывать данные. Он не упомянул курьеров, которые у нас нарасхват. Вышла статистика, что за год у наших курьеров зарплата выросла на 38%. Курьеры по своим зарплатам обгоняют и специалистов с высшим образованием, и со средним специальным - самых работяг.
Сергей Михеев: Я бы запретил мигрантам работать курьерами! Эти люди, приезжая сюда, делают вид, что они очень нужны нашей экономике, зарабатывают огромные деньги, и непонятно куда это всё идет. Первое: если так здорово быть курьером, то пусть работают ими только граждане России - они эти деньги оставляют здесь! «У нас не хватает рабочих рук». Где не хватает рабочих рук? Давайте, где это нужно для развития России, там они и будут работать, а не там, где им захочется. Одна из главных проблем: приезжает мигрант и работает там, где ему удобно, а он должен работать там, где нам надо.
Второе: эта сфера деятельности регрессивная, ничего не двигает вперед. Да, она позволяет решать людям свои жизненные проблемы, это имеет место быть, и я ничего против не имею; но, с другой стороны, необходимо понимать, что касается качественного развития России - это регресс. Почему? Потому что огромное количество людей понимает, что можно зарабатывать неплохие деньги, ничего не зная, пользуясь только навигатором в телефоне. Логика человека понятна: ему надо зарабатывать деньги здесь и сейчас. Ясно, но если говорить о стратегии, то это тормоз, неквалифицированный труд.
Что касается навыков и умений, то Дженсен Хуан прав. Странно, что мы долго до этого доходили. Всё агитируем идти в программисты, юристы, экономисты, певцы и танцоры, а нужны люди, которые будут что-то уметь делать руками и думать головой; у кого такие люди будут, у того и будет успех. То, что мы спохватились и начинаем ориентировать молодых ребят на профтехобразование, – это правильно, потому что потерять способность к выживанию очень легко.
По поводу высшего образования завязался спор. Протоиерей Андрей Ткачев заявил, что мы живем в то время, когда пришли «беды от образованных», и назвал безбожниками многих ученых и академиков. Беды идут от безверия, а не от образования, официально заявили в РПЦ. Говорят, что Ч. Дарвин был неверующим человеком и придумал свою теорию эволюции. Был бы верующим, то и в голову бы это не пришло. С другой стороны, «Во многой мудрости много печали; и кто умножает познания, умножает скорбь» - цитата из книги «Екклесиаст», написанной царем Соломоном.
Сергей Михеев: Отец Андрей любит яркие высказывания, но, на мой взгляд, проблема не в науке и не в знаниях, а в попытке создать псевдонаучную антирелигиозную идеологию; обожествить научные знания; вторгнуться в те сферы, в которых наука бессильна, и объявить это новой верой. Проблема даже в узости мышления. Вокруг Ч. Дарвина много разных мифов: он был верующим человеком, как минимум он был креационистом - человеком, признающим Создателя и точку запуска.
Когда говорят: «Дарвин сказал, что человек произошел от обезьяны». Он совсем не это сказал! Чаще всего люди, говоря об этом, не читали Дарвина. Но явление «дарвинизм», названное его именем, действительно, стало вульгарным течением, объясняющим очень сложные вещи просто, линейно и механически. И от него затем оттолкнулась псевдонаучная идеология, в том числе базирующаяся на самомнении. Самомнение людей, чему-то научившихся и рассуждающих о том, что они «теперь познали все тайны мира», смешное, часто поверхностное и плоское. Чем дальше развивается наука, тем больше мы понимаем, что мы ничего не понимаем; и тем больше видим, что некая точка создания вселенной, если её изучать, постоянно склоняет к идее о Создателе и о плане.
«Ничего не было, а потом всё случайно появилось» - это смешно. Комично даже с точки зрения современных «задираний носа». Хочется сказать: если вы все такие умные, то откройте секрет фотосинтеза, и мы решим проблему питания всей планеты!
Мы, создавая компьютерные презентации, очень мало знаем о том, кто мы, что мы, в каком мире живем, и не только о вселенной, а о том, что происходит рядом. Каким образом растения получают питательные вещества? Фотосинтезом: свет превращается в питательное вещество, хлорофилл. Если это воссоздать, то была бы полностью и навсегда решена проблема питания, и не нужно было бы сельское хозяйство - можно было бы из света получить еду. Если ученые такие умные, то пусть этим займутся! Нет, они будут клонировать человека. А что в этом? Вызов Создателю: «Ты создал, а мы Тебе покажем, что и мы можем создать».
Сначала тренировались на овечках, тоже под предлогом: «Накормить человечество».
Сергей Михеев: Есть суперзадача – накормить всё человечество. Решите проблему фотосинтеза! Я уже не говорю о том, что сколько ни рассказывали нам о зарождении жизни (аминокислоты и пр.), никто экспериментально подтвердить это не смог. Если всё так очевидно, то покажите нам экспериментально зарождение жизни, её развитие и т.д.! Это всё не про науку как таковую, а про псевдонаучную политическую идеологию, претендующую на новую религию!
Отец Андрей любит местами провокационные заявления, не потому что он провоцирует, а лишь в упрощенном виде они звучат провокационно. Но, в целом, проблема во всезнайстве сочетается с проблемой неверия. Всезнайство утверждает веру в самих себя, при том, что мы очень мало знаем. Что касается эйфории с ИИ - это тоже попытка нам внушить, что мы «всё знаем»; попытка затуманить тот факт, что по многим направлениям мы не продвигаемся вперед, нет качественного продвижения. Поэтому отсутствие качественных рывков, в том числе в научном знании, заменяется созданием разных презентаций: «Вот ИИ уже пишет музыку!» Ну и что? Является ли это качественным рывком? Пока нет.