«Российская газета» пишет, что в правительстве пройдут «Дни искусственного интеллекта». Цель мероприятий – научить сотрудников аппарата правительства использовать ИИ для повышения эффективности работы. Пока будут обучать сотрудников аппарата правительства, и, надеемся, что до нас тоже дойдёт очередь. Российское правительство решило законодательно закрепить главенство человека над ИИ при принятии решений в образовании, медицине, суде и сфере безопасности. Эксперты делают вывод, что ИИ не может быть главнее человека и это должно быть закреплено законом.
Сергей Михеев: Замечательно, если это будет закреплено законом. Не зря мы здесь сидим, и я произвожу злобное пыхтение, потому что так и должно быть. Не может никакая искусственная неживая система быть выше, чем живой человек, его интересы, жизнь и всё остальное. Человек должен быть на вершине этой пирамиды. В первую очередь именно на это направлены все мои попытки призвать к более трезвому анализу этой ситуации. Если появится такой закон (посмотрим, что там напишут), то это будет правильно.
В других странах этим тоже озабочены.
Сергей Михеев: Значит, и мы будем озабочены. А другая тема, о которой я всегда говорю, это вопрос безопасности. И здесь придерусь к первой новости, что «в аппарате правительства будут обучать ИИ и как с ним работать». У меня вопрос: как здесь с безопасностью и государственной тайной? У нас нет полностью отечественных платформ, нейросетей, ИИ. Все они посылают запросы за рубеж. Одно из двух: или не надо было об этом сообщать, или не надо пользоваться. Все нейросети, которые применяются в России, так или иначе связаны с зарубежными серверами, а значит, ваши вопросы уходят туда; информация, которую вы предоставляете, уходит туда, и ответы получаете оттуда.
При этом она анализируется тем же самым ИИ.
Сергей Михеев: Да. И по IP-адресам очень просто отследить, какие запросы исходят из аппарата правительства или из каких-то ведомств, министерств, и сложить их в отдельную папку для более тщательного анализа. Или я чего-то не понимаю? Но мне кажется, что очень хорошо понимаю. Стоит ли вообще этим хвалиться? Не уверен.
Вопрос у разработчиков ИИ: «Стоит ли дальше продолжать эти эксперименты?» Эксперты ведущих интернет-компаний, в частности, Open AI и Anthropic, предупредили о рисках стремительного развития ИИ. Ряд исследователей выразили обеспокоенность тем, что новые модели ИИ развиваются быстрее, чем механизмы их контроля. По данным издания Axios, некоторые сотрудники покинули компании, ссылаясь на этические соображения и «экзистенциальную угрозу», которую, по их мнению, представляет технология. Последние версии моделей становятся значительно мощнее и способны самостоятельно создавать и совершенствовать сложные продукты. ИИ теоретически способен применяться в тяжких преступлениях, включая создание химического, бактериологического оружия.
Сергей Михеев: Запросто, и контролировать это будет крайне сложно. А на фоне общей эйфории и постоянного продвижения ИИ, где надо и где не надо, вы даже не успеете отконтролировать и не сможете понять, где и когда началось его использование осознанно во вред. Как показывает практика, ИИ очень хорошо умеет подстраиваться под вас: он будет замечательно работать с вашим настроением и отвечать то, что вы хотите от него услышать, а что будет на самом деле - другой вопрос.
Пример, как ИИ научился подстраиваться под человеческий глаз. У нас проводилось исследование: три четверти пользователей (77%) не смогли увидеть разницу между настоящей фотографией и изображением, сгенерированным ИИ. Исследователи говорят, что это только начало, а дальше это отличие будет полностью уничтожено.
Сергей Михеев: Представляете, какие перспективы открываются для чиновников в любой стране мира: ИИ не будет никогда их критиковать!
-ИИ, правда мы хорошо развиваем экономику?
-Конечно, правда!
-Покажи, ИИ, сколько мы построили заводов.
И он нарисует картинки, которые никто не сможет отличить от настоящих. «Конечно, ИИ лучше людей: они всё время чем-то недовольны, постоянно задают вопросы. С ИИ спокойнее, благостнее».
Много скептических вопросов. Слушатель пишет: «Совсем недавно был обувной крем с использованием нанотехнологий, затем появились экологически чистые продукты, а сейчас появится редиска, выращенная с помощью ИИ». Кроме повышения цен, ничего другого наш слушатель не ожидает.
Сергей Михеев: Насчёт повышения цен – это очевидная проблема. Правительство, Центробанк и все остальные говорят, что они сдерживают инфляцию. По моим субъективным оценкам, инфляция больше, чем та, которую констатирует тот же Центробанк.
Это называется «ценовое ожидание» в методичке ЦБ.
Сергей Михеев: Я понял. Плюс, «охлаждение» экономики, которым (почему-то) Центробанк гордится.
Центробанк «охлаждением» не гордится. Сейчас профильные ведомства (Минфин, Минэкономразвития) говорят, что вслед за снижением инфляции в ручном режиме немножко «охладилась» экономика, экономический рост. Недавно (по-моему) выступал министр экономического развития Максим Решетников, который сказал, что к концу этого года возможно оживление в экономике, но это неточно.
Сергей Михеев: Спасибо за уточнение.
Я отстоял честь Центробанка.
Сергей Михеев: Есть такая очевидная проблема, и ИИ её точно не решит - разве что нарисует картинку, которую невозможно отличить от действительности. Всё хорошо: пусть будут технологии, только вопрос в том, чтобы они что-то реально двигали вперёд, а не только рисовали картинки.
Следующий комментарий: «Спросил у ИИ, почему вдруг у нас в Новосибирске огурцы стали стоить 500 рублей за килограмм. В ответе было что-то про полив и удобрения». Советы были от законодателей: «Вы покупайте фитолампы, сажайте сами огурцы на подоконнике - и у вас круглый год будет урожай».
Сергей Михеев: А ещё что посоветуют? Какие ещё есть умные идеи по этому поводу? Я слышал про подорожание огурцов, и они что-то высказывали.
Это «отрицательный рост».
Сергей Михеев: Видимо, ответ получен с помощью ИИ. Почему я говорю про всю эту эйфорию? Мне кажется, что ею пытаются запудрить мозги и перенаправить внимание. Несомненно, перспектива нужна положительная и её надо формулировать, но только не с помощью выдуманной, мнимой действительности. Давайте нам настоящие вещи.
Слушатель спрашивает Вашего совета: «Цены на водку показали отрицательный рост. Что делать? Покупать самогонный аппарат?»
Сергей Михеев: Употребляю спиртное крайне редко и немного, самогонного аппарата никогда не имел. Я бы Вам советовал сократить употребление алкоголя: может быть, и эта проблема снизится. Сам по себе ИИ - мастер по созданию иллюзий, и его продвигают такие же мастера, потому что выдают это за «прорыв в новую область знаний, сферу технологий». На самом деле этого нет. Я слышал новость, что Илон Маск сообщил, что сосредоточится на строительстве города на Луне, так как на это уйдёт меньше времени, чем на освоение Марса. Хочется сказать: а я что говорил? Что никаких полётов на Марс не будет и марсианских городов не будет, потому что огромное количество технических проблем, которые на данном этапе пока нерешаемые! Я согласен, что иногда важно создать проект, чтобы вдохновить людей.
Собрать денег.
Сергей Михеев: Да. Но это должно быть что-то ответственное, осознаваемое и реализуемое. Про ИИ – это тоже самое, что говорил Маск несколько лет назад про Марс! Уверяю, что и на Луне он ничего не построит, потому что: а. это чрезвычайно сложно; б. очень дорого; в. никому не нужно. При этом там весь нужный набор разных благоглупостей: Маск считает, что для исследования космоса нужно создавать города на Луне, а также строить специальные пусковые установки (катапульты), которые будут запускать спутники с ИИ. Что за чушь!«Спутник с ИИ»: а сейчас там разве нет ИИ что ли? Любое программное обеспечение – это и есть ИИ! Ну будет там более продвинутая программа обеспечения... То ли он сам не понимает, то ли это такой пример «езды по ушам», которой страдают многие сверхэнтузиасты ИИ, которые или сами теряют связь с реальностью, или начинают «закручивать мозги» людям. К сожалению, на выходе будет «пшик». Потому что ни в какие ледоколы, самолёты, ракеты это не выльется.
Я к тому, что это хорошо, что появляются всё более серьёзные мощности по обработке огромных объемов данных за единицу времени; и хорошо, что это можно использовать в строительстве беспилотных технологий. Но при этом надо трезво смотреть на эти вещи и не рассказывать, что это якобы панацея от всего: «Завтра вы научитесь делать запросы ИИ и ваша жизнь зацветёт». Я за трезвый взгляд на вещи.
Отвечая на вопрос слушателя: «Водка или самогонный аппарат?» Я за трезвый взгляд на жизнь.
Мы не пропагандируем алкогольные напитки - они вредят жизни. Комментарий слушателя: "Попросите нашу нейросеть нарисовать деньги - и она нарисует только доллары».
Сергей Михеев: Причина простая: всё находится на иностранных серверах. Поэтому к вопросу о безопасности: все данные вы отправляете за рубеж, включая личные данные. Каждый обыватель может сказать, что «меня это не касается - кому я нужен?» Сегодня не нужен, а завтра, глядишь, и нужен. В любом случае большие данные обрабатываются, составляются картинки, которые могут использоваться и во враждебных целях. При нынешних технологиях очень просто определить, откуда запрашиваются данные.
Ещё комментарий слушательницы: «Понятно, кому служит ИИ. Спросила про бывших наших сограждан, которые сейчас в списках экстремистов и террористов,финансирующих киевский режим, и ИИ выдал - хоть икону с них пиши – «святые люди»!»
Сергей Михеев: О чём я и говорю, что сначала надо сделать так, чтобы он был под контролем и локализован внутри нашего суверенного пространства, а потом уже его изо всех сил продвигать. А его сейчас внедряют в образовательные системы: «Давайте научим школьников делать запросы!» Вот они запросят: «Политика России в отношении Украины правильная или неправильная?» Что им ответит ИИ? Вопрос к тем людям, кто отвечает за образование и просвещение, которые изо всех сил продвигают ИИ: вы на такие простые темы задумываетесь? Какой смысл вводить новые учебники по истории?
Смысл в соавторах новых учебников.
Сергей Михеев: Тогда я понял. Одновременно с вашим новым учебником вы говорите, что надо обращаться к ИИ. Ребёнок обращается, а ему дают информацию ровно в обратную сторону - и что он должен делать? Это всё настолько очевидно! Я очень переживаю за эти вещи.
Призыв нашего слушателя: «Всем западным политикам отправить учебное пособие по логике». Я знаю, кто напишет пособие по «железной логике». Отправите через Луну (смеется)?
Сергей Михеев: Всё они прекрасно понимают и им пособия не нужны! Они обманывают или делают то, что считают нужным для себя.