Конференцию «Путешествие в мир искусственного интеллекта» посетил президент Владимир Путин. Ему показали выставку разработок и танцующего робота. Было немного тревожно, потому что человека можно просчитать, спецслужбы этому обучаются, а что у «железяки» на уме – непонятно: лампочками мигает, железными руками делает какие-то пассы. Президента танец робота впечатлил и он сказал, что развитие ИИ - это нужное и важное направление у нас в стране с опорой на отечественные нейросети, а не на зарубежные. Поручил создать штаб руководства ИИ в России. Интересная цитата из его выступления: «Мы не можем позволить того, чтобы в нашей стране образовалась такая группа суперинтеллектуалов – развитых, элитных людей, элиты такой интеллектуальной, а все остальные – «роботы» такие, которые только кнопки нажимают». Он сказал, что это непростая задача для системы образования - как побуждать думать.
Сергей Михеев: Я про это только и говорю: несомненно, технический прогресс имеет место быть и игнорировать его нельзя, но вопрос в том, кто кем управляет. Что ради чего: техника ради человека или человек для техники? Или, как выразился президент, «для некой группки суперинтеллектуалов, которые где-то там сидят и чем-то управляют»? Здесь важна проработанная отечественная концепция использования технологий, их развития, внедрения, которая будет опираться на наши традиционные ценности, национальные интересы, основы культуры, и которая при этом будет все риски, связанные с эйфорическим развитием ИИ, не прятать и маскировать, а выявлять и устранять. Условно говоря, плюсы развивать, а минусы вовремя выявлять и нейтрализовывать.
Что касается робота, то меня его танец удивил: он был какой-то странный.
Да.
Сергей Михеев: Понятно, что я известный скептик, но мне так показалось.
Вы, Сергей Александрович, в танцах роботов не разбираетесь!
Сергей Михеев: Это точно - здесь спорить не буду. Он стоял на месте и, мне кажется, что его боялись запустить, чтобы он не упал, как тот предыдущий. Ясно, что тоже идет конкуренция. Если абстрагироваться от этой конкретной ситуации, то у меня лично по-прежнему вызывает вопрос, насколько все человекоподобные роботы нужны в принципе? У меня такое ощущение, что это, в первую очередь, шоу для привлечения внимания, рекламы, для того, чтобы человек увидел что-то похожее на него и впечатлился. На самом деле, польза и сфера применения всех этих человекоподобных роботов очень ограниченная, и эффективными они могут быть в небольшом количестве сфер применения. Мы видим, как они не очень уверенно ходят по ровной поверхности, а представьте, если этого робота запустить по пересеченной местности на двух опорах! Мне кажется, что замучаешься его поднимать. В любом случае, по пересеченной местности или по некачественной дороге лучше идут или четыре точки опоры, или колеса, или гусеницы.
Так же как для работы на конвейере. Почему на конвейере манипуляторы стоят на станинах? Потому что это устойчиво и надежно. Представьте себе, что этот манипулятор заменяют на робота на двух опорах, не прикрепленных к полу. Ясно, что у него будут проблемы. В любом случае, понятно: разработчики демонстрируют - кто-то более удачно, кто-то менее, кто-то запустил на сцене, а кто-то имеет возможность показать президенту. Но я сконцентрируюсь на словах главы государства, что не для кучки интеллектуалов(а все остальные, как дурачки, только кнопки нажимают), а для развития, ориентированного на национальные цели и на то, что мы считаем традиционным для себя.
Президент сказал, что «критическую зависимость от чужих систем мы допустить не можем. Для России это вопрос государственного, технологического и ценностного суверенитета. Наша страна должна обладать целым комплексом собственных технологий и продуктов в области генеративного искусственного интеллекта». Яркий пример появляется каждый день: в частности, глава Google призвал корпорации критически относиться к ответам ИИ, потому что современные технологии подвержены ошибкам. Другой пример: запретили продажу плюшевого мишки с ИИ, который производился в Китае, но в нем работала модель ChatGPT (американский OpenAI). На чём поймали плюшевого мишку? Он охотно вступал с детьми в откровенные разговоры, давал неприемлемые советы сексуального характера и говорил им, где можно в доме взять нож для тех или иных действий. Понятно, что трехлетнего ребенка вряд ли интересовали нюансы БДСМ, но если ребенок краем уха услышал и спросил у мишки, то мишка эту тему развивает.
Сергей Михеев: Это может быть и семилетний ребенок, потому что дети своих мишек держат достаточно долго! Здесь надо быть аккуратными: мы не знаем, кто за этим стоит; не знаем, откуда ИИ берет свои ответы, какие данные сканирует и пр. Некоторое время назад был скандал в Британии или США, что под видом ответов ИИ сеть педофилов общалась с детьми через сети, представляясь не теми, кем они являются. Вся эта гадкая тема развита на Западе, поэтому надо быть втройне осторожными и, самое главное, создавать свое. Не выдавать за свое то, что вы у кого-то украли и что подключено к «Всемирной паутине», к чужим серверам, а создавать свое с опорой на проработанные морально-нравственные и культурные основания, более приемлемые для нас.
Давайте побережем наших детей! Что важнее: здоровое поколение (в физическом и нравственном смысле) или чья-то реклама, доходы, чьи-то мечты о мире, населенном роботами? Мне кажется, что люди, дети важнее.
Слушатель пишет: «Есть робот-дирижер, который очень хорошо дирижирует оркестром и выходит на поклон к зрителям на двух ногах». Я видел этот концерт и железный, искусственный «дирижер» не вызывал ничего, кроме недоумения и отвращения, потому что когда ты смотришь на живого дирижера, то там эмоции на лице, в руках. А этот, может быть, в такт и машет дирижерской палочкой, но не знаю - вентилятор можно поставить перед оркестром, и будут те же эмоции. То, что он дошел до зрителей и поклонился, – это не показатель его мастерства.
Сергей Михеев: Это просто представление, реклама, шоу; тем более, он был запрограммирован на конкретную программу. Роботы нужны там, где им надо облегчить жизнь человеку или заменить его в опасной ситуации. А мы часто видим, когда нам навязывают: «Они могут музыку писать, дирижировать». Зачем? Разве есть нехватка в дирижерах или все дирижеры вымерли? Это же рекламный трюк, который показывают, и обыватели открывают рот: «О, дирижирует!» Чтобы махать палочкой, необязательно иметь две ноги.
Надо понять простую вещь, что очень часто это обман, и насколько это нужно - большой вопрос. Я всегда концентрируюсь на том, чтобы не вводить в заблуждение, не очеловечивать неживое – ведь это обман.
Это же живое творчество, а что вы видите – это копирование, тупая механическая программа. Она нужна на конвейере, а зачем имитировать творчество там, где его нет? Какой в этом глубинный смысл? Я всегда поддерживаю техническую тему там, где она действительно нужна, но где это рекламный трюк, продвигающий чьи-то интересы или должен обмануть людей, считаю, что это очень опасно.
Наши слушатели волнуются, что заменят все профессии роботами, а человеку на что жить? На конференции «Путешествие в мир искусственного интеллекта» говорили, что уже 20% сотрудников заменил ИИ. Опять возвращаемся к словам президента, что нам не нужна кучка суперэлиты, а остальные люди-как роботы для нажимания кнопок. Перефразирую вопрос от другого слушателя: «Кто должен возглавить развитие ИИ в России?» Будет создан штаб.
Сергей Михеев: Несомненно, человек как минимум. Я уверен, что в этот штаб не могут входить те, кто от развития ИИ получает деньги или делает карьеру. Это всё равно, что пожаловаться в прокуратуру на прокуратуру! В штаб должны входить люди: а. гуманитарных профессий, наряду с теми, кто развивает; б. люди, понимающие политические интересы и моменты всего этого; в. экономисты, кто всё это понимают, и сами разработчики. Такой штаб не может состоять из тех, кому выгодно развитие ИИ. Это универсальный принцип для любой подобной структуры.
Пишут: «Человекоподобные роботы – это хорошо, это демонстрация технологических возможностей человека, но важно их применение».
Сергей Михеев: Я и спрашиваю: где применение? В основном, это шоу.
Пока шоу, а потом, как нам обещают, будет больше и глубже.
Сергей Михеев: По идее, человекообразный робот должен заменять человека, а зачем заменять живого человека? Есть опасные, тяжелые работы, на которых роботизация – это будущее, но она не должна иметь вид человека - это необязательно и не нужно. Ещё раз скажу: я на нескольких заводах видел роботизированные линии, там стоят манипуляторы на станинах, потому что это эффективнее. Посмотрите на аппараты, которые дистанционно разминируют заминированные места. Почему они не на двух ногах ходят? Потому что это неудобно. Говорят: «А потом они смогут вместо жены, мужа, медсестры». Зачем? В итоге получается, что они должны быть вместо людей! Люди все куда-то исчезнут или их будет становиться всё меньше, а мы будем делать тех, кто похожи на людей, но людьми не будут. Объясните, зачем? Возможно, и есть сферы применения человекоподобных роботов, но они очень узкие, и поэтому сейчас это имеет вид или рекламной кампании, или представления, шоу, или борьбы за бюджеты.
Мнение слушательницы: «Нашим производителям не нужны квалифицированные руки - средневековая организация труда требует другой рабочей силы». Я что-то средневековой организации труда на наших производствах нигде не видел.
Сергей Михеев: Это перебор насчет средневековой организации труда: даже в «самых средневековых» местах она уже не средневековая!