Нейросеть впервые успешно сдала единый государственный экзамен. Отечественная разработка (условно отечественная) справилась с ЕГ, набрала достаточно баллов для поступления в ВУЗ. Отмечается, что ЕГ по литературе – была сложной задачей для алгоритмов, но приблизилась к среднему баллу российских школьников, которые выбирают в том числе литературу, специально готовятся к экзамену. А нейросеть раз-раз, щелк-щелк и всё. Баллов набрала, а что дальше? Если нейросетизация у нас будет продолжаться, то вот сдала нейросеть ЕГ, дистанционно подала документы в ВУЗ, сформировала какое-то лицо (известное или неизвестное), дистанционно отучилась заочно, получила электронный диплом, путёвку в жизнь и дальше устраивается на работу и принимает государственные решения.
Сергей Михеев: Ну да. Вот говорят, что нейросеть сдала ЕГ на среднем уровне выпускника. То есть уровень зрелости нейросети соответствует среднему уровню старшего подросткового возраста.
17-18 лет.
Сергей Михеев: Вы предлагаете мне её слушать? Вы предлагаете мне с ней советоваться? Представьте себе: 17-летний подросток начинает прожившему жизнь человеку давать какие-то советы. «Слушай, ты, свои советы придержи при себе. Мы разберёмся, кого слушать, а кого не слушать. Тебе ещё учиться и учиться». Это я к тому, что не надо торопиться обожествлять все эти технологии. Это первое.
Второе: как Вы сказали, сейчас она получит все формальные подтверждения того, что она что-то из себя значит, и дальше что? Что это будет значить?
Захватит власть.
Сергей Михеев: Что было бы, если бы власть на земле захватили бездушные роботы? Я думаю, что здесь очень важно не пытаться одушевлять неодушевлённое, из железки делать человека. Железка никогда не станет человеком. Даже если она по формальным признакам сможет поставить галочки, она не станет человеком. Этого слишком мало для того, чтобы быть ответственным в принятии тех или иных решений. Она может быть помощником. Здесь очень важно понять, что цель, а что средство. И это всегда должно быть средством. Оно может помогать. Но основные ответственные решения принимают люди, и именно человеческое общество управляет этим, а не наоборот. Здесь важно, чтобы цель и средство не поменялись местами. Нужно философское осмысление этой проблематики, и чтобы всё было на своих местах.
А сторонники научно-технического прогресса всё время хотят местами переставить, хотят человека поставить в подчинённое положение, а его недавнее творение - в положение господствующее. Здесь есть опасность. Важно, чтобы не произошло так, что формальные признаки стали бы достаточным основанием для того, чтобы человек и его помощник поменялись местами. Эта проблема была в популярном виде сформирована фантастическими рассказами (Айзек Азимов: «Три закона робототехники» и т.д.). Как нравственная проблема это давно уже всё осмысленно и прописано. Важно, чтобы цель и средства не поменялись местами, чтобы человек из господствующего и управляющего не перешёл бы в разряд используемого и подчиненного. Плюс, важно, чтобы не было кампанейщины. Эта трескотня всё время очень заглушает здравый смысл.
Я не обладаю достаточными знаниями в этой области, но очень часто задаю вопрос: чем эти модные слова (нейросеть, искусственный интеллект) отличаются от компьютерной программы, от математического алгоритма, разработанного человеком? У меня такое впечатление, что здесь очень много трескотни, которая к реальности имеет отдалённое отношение, но очень серьёзно пудрит мозг.
Был опрос: 67% россиян доверяют помощникам с искусственным интеллектом, но считают, что нужно перепроверять информацию за нейросетью. Тем не менее, треть респондентов готовы доверить жизнь решению искусственного интеллекта. То есть, достаточно много, но если будет робот-судья или робот-учитель, к ним доверия будет меньше.
Сергей Михеев: Есть ли вообще ИИ или его нет – большой вопрос. Мне лично (живу напряжённой жизнью, и графику меня напряжённый) не нужны помощники с искусственным интеллектом. Я не вижу в своей деятельности ни одной сферы применения, где он мне был бы нужен, чтобы я не мог без него обойтись. Я пока только вижу, как мне камера штрафы присылает (смеется).
Простейший пример трескотни. На одном из федеральных телеканалов смотрел репортаж: где-то проходит очередная выставка инноваций, и в частности, репортаж о газотурбинных двигателях. Турбина - это лопатки. Лопатки – это вещь очень важная в газотурбинном двигателе, в любом реактивном двигателе. Потому что разрушение лопатки может привести к разрушению всего двигателя. И показывают: «Смотрите, новый способ поиска дефектов, дефектоскопия у лопаток. Вот камера, которая смотрит на лопатки и выявляет микротрещины. Это делает искусственный интеллект, и вот насколько это облегчит нам всем жизнь, потому что глаз человека не может так долго работать, а камера с утра до вечера смотрит».
Так случилось, что я когда-то имел определённое отношение к авиации, в том числе к ремонту повреждений, дефектоскопии и пр. Хочется сказать корреспонденту: «Дорогой друг, представь себе, ещё в 1970-е годы визуальный способ осмотра лопаток перестал быть основным. Представляешь? Есть масса способов: магнитно-резонансный, ультразвуковой, магнитно-порошковый, радиоактивный и др., выявляющие скрытые дефекты, в том числе микротрещины. Визуальный способ остался, но он давно перестал быть достоверным и основным. А тебе на выставке рассказали, что якобы ИИ, который будет камеры туда таскать, смотреть в лопатку, теперь решит все проблемы. Я даже хуже скажу: представляешь, все эти методы, которые я перечислил (а есть ещё и другие), даже не нуждаются в компьютере, потому что они основаны совершенно на другом принципе, и работают они невероятно надёжно. И более того: в советское время выпускалось серийное оборудование, которое позволяло дефектоскопировать лопатки, то есть определять их скрытые дефекты, внутренние микротрещины совсем не визуальным способом. Визуальный способ – это для таких вещей, которые уже настолько очевидны, что лопатка находится на грани полного разрушения. А важно определить дефект на ранней стадии. Иногда он визуально вообще не определяется. И всё это давно уже разработано, серийно выпускалось, компьютеров не требует вообще, а ИИ совсем не нужен в этом деле».
Но на выставке показывают: «Искусственный интеллект!», и с восторгом: «Прорыв!» Случайно получилось, что я когда-то это знал и имел к этому отношение. Это для войсковых частей, которые занимались ремонтом боевых повреждений в Афганистане. Всё это есть, давно сделано, и компьютер вообще не нужен. Это называется трескотня, кампанейщина. Надо так, чтобы не стать жертвой кампанейщины, а выявлять, что действительно нужно, здравое зерно, а что является просто наносным.
Мы недавно говорили о том, что правительство объявило, что оно будет давать дотации тем компаниям, которые будут использовать ИИ. Вот моя компания производит, условно говоря, подковы, гвозди или ведра. Как бы мне получить дотацию от правительства? «Иди сюда, Вася (Коля, Петя). Надо что-то такое придумать, чтобы убедить, что у нас искусственный интеллект. Что он делает? Он, например, считает потребность в ведрах или ещё в чём-нибудь».
Рассчитывает количество гвоздей в подкове.
Сергей Михеев: Здесь важно, чтобы кампанейщина и имитация не запудрили нам мозги. Я пытался спрашивать специалистов: «Вы мне объясните, чем математический алгоритм, который заложен в основу компьютерной программы, качественно отличается от ИИ?» Внятного ответа не услышал. Возможно, я не обладаю достаточными знаниями подготовки, квалификации, компетенции. Всё-таки у меня гуманитарное образование, хотя к технике я когда-то имел отношение. Но, тем не менее, может быть, это так. Но за этим кроется лукавство.
Личная выгода.
