Прогрессисты встали на защиту искусственного интеллекта (ИИ) от необоснованных, по их мнению, нападок ретроградов. Вышла целая статья в центральной российской прессе: «Нейросеть на службе человека, где искусственный интеллект (ИИ) реально спасает жизнь». В статье вспоминают, что медицина стала первой областью, где ИИ показал не просто эффективность, а способность реально спасать жизни. И на Западе, и у нас есть такие проекты. Не менее важно применение ИИ в борьбе со стихийными бедствиями, их предупреждение и т.д. Может быть, доверить ИИ распределение учащихся в классе, чтобы классы были поменьше?
Сергей Михеев: Ретроград – это я.
Нет, что Вы, Сергей Александрович!
Сергей Михеев: Нападки мои бывают обоснованными, а бывают необоснованными. Всё зависит от настроения! Кто-то наступил в автобусе на ногу, приходишь в студию и всё ненавидишь, включая ИИ, потому что его ненавидеть наиболее безопасно! Кроме шуток: никто не спорит, что компьютерные технологии помогают человеку. Вопрос в том, чтобы: а. не абсолютизировать эту пользу; б. не обожествлять; в. не доверять власть над человеком. Здесь важно не упустить момент, когда люди перестанут управлять своей жизнью, а власть на планете Земля захватят бездушные роботы. Еще очень важно не обманывать людей, подменяя истинную пользу, знания красивыми картинками, что и происходит на каждом шагу. Иногда и в тех сферах, которые были перечислены, потому что часто там желаемое выдают за действительное, в том числе чтобы продвинуть эти технологии. Вопрос в здравом смысле подхода к этим вещам.
Есть кампанейщина, за которую прячутся не очень хорошие вещи. В лучшем случае, это попытка своровать деньги, а в худшем - новой формы власти над людьми. А так никто и не спорит, что компьютеры могут помочь в каких-то делах. Просто не надо самих себя обманывать, а нужно трезво относиться. Если будет честное отношение к любому вопросу, тогда очень легко отделить пользу от вреда.
Я не очень понимаю, когда речь идет про медицину. Специально задавал вопрос нескольким врачам, и ответы были очень скептические. Болтовни по этому поводу больше, чем реальных вещей. Спрашивал у профессиональных врачей с большим опытом работы: можно ли доверить ИИ точную постановку диагноза? Ответ: «Нет». Может ли он помочь в анализе большого количества данных? Ответ: «Да». Может ли поставить диагноз и назначить лечение? Ответ: «Скорее нет, чем да». Что касается спасения в чрезвычайных ситуациях, я не знаю, кого и когда ИИ спас? В предсказаниях? Я тоже могу предсказать, что в следующем году будут лесные пожары. Могу даже предсказать, где они будут, без ИИ. Могу предсказать, почему они возникнут. У меня нет ни нейросети, ни ИИ, а есть остатки естественного интеллекта. Теперь хочу, чтобы ваш ИИ сделал так, чтобы этих пожаров не было! Когда он сделает так, что их не будет, тогда я «сниму шляпу» перед ним.
Апологеты цифрового будущего говорят, что ИИ – это не замена человека, а некий симбиоз, помощник. В статье пишут: «Вторая пара глаз для хирургов» и т.д. С другой стороны, как спрашивает наш слушатель: «Как и кто угомонит вышедшую из-под контроля нейросеть?»
Сергей Михеев: О чём я, как известный ретроград, своими необоснованными нападками всё время и говорю, что не доводите своими разговорами до того момента, когда ИИ заменит нам жизнь! Этот процесс надо держать под контролем. Конечно, всегда есть «волшебный» рубильник, и он должен всегда где-то быть. Но, если почитать фантастов - да и несложно представить самим - что теоретически можно создать систему, при которой он вам не даст это сделать. Например, какой-то дата-центр (ЦОД), который находится в автономном режиме получения электроэнергии (от солнечных батарей или приливной электростанции), он заблокирует все замки; электричество есть, а дальше он переходит функционировать в автономный режим, и после этого его можно уничтожать только ракетно-бомбовым ударом с воздуха. Но, чтобы до этого не доходило:люди, относитесь к этому здраво!
Снова-таки появилась публикация типа: «Бедного ИИ надо защищать от придирок». Там, где он полезен, люди сами будут им пользоваться, а вопрос в том, что его проталкивают туда, куда не надо, где от него могут быть сплошные проблемы. Не передавайте ИИ те полномочия, которые ему не надо передавать, чтобы потом не кричать: «Спасайтесь кто может!» Мне кажется, что это иногда делается, чтобы снять с кого-то ответственность. Например, пациент с болезнью, диагноз ему ставит ИИ, и от неправильно поставленного диагноза пациент умирает. Кто виноват? Никто. Нет доктора, который отвечает за неправильную постановку диагноза, за неправильно назначенное лечение.
О чём тут говорить? Что вы из нас делаете дурачков? Всё понятно: сначала чтобы сэкономить где-то деньги; потом чтобы их где-то получить; а, в конце концов, чтобы снять с себя ответственность. Дальше можете «наказать» компьютер, лишив его электричества или посадив в «компьютерную» тюрьму, как некогда «пороли» вечевой колокол.
Если план лечения составляет врач на основе вывода ИИ, то будет отвечать врач. Если человек дома вбил все свои симптомы в сети и сам себе назначил лечение, то, естественно, никто не будет отвечать. Наша слушательница приводит обратный пример: «ИИ поставил диагноз моей соседке после заведения мной всех симптомов в Deep Seek (китайский чат-бот), а врачи Санкт-Петербурга три года его не могли поставить и лечили совсем от другого». Вот пример из жизни. Другой комментарий: «Не слишком ли далеко до захвата мира искусственным интеллектом? Потому что чат-боты - это не более, чем продвинутый браузер, с которым ещё и пообщаться можно».
Сергей Михеев: Нам говорят, что это ИИ, а оказывается, это браузер. Тогда так и говорите людям, что «это браузер», и не морочьте им мозги, а то его начинают наделять чуть ли не свойствами личности! Я всё время говорю, что за вашим браузером будут стоять реальные люди, которые убедят, что это объективный ИИ. Вами будут управлять люди, а не браузеры, но говорить будут, что якобы не они. Вопрос в том, у кого будут реальные рычаги власти, а для того, чтобы это понимать, не надо друг друга обманывать. Еще немного,и вам скажут, что это «цифровой бог», «цифровой человек», «личность» - и не надо её обижать. А дальше начнем принимать законы, что человек – это человек, а не компьютерная программа. Уверяю вас, что к этому всё и идет!
Как они продвигали повестку с геями, так же будут продвигать и с ИИ. Скажут, что «у ИИ есть права, а вы их нарушили», или «мы вас засудим за то, что вы возбуждаете ненависть по отношению к ИИ, а ему от этого плохо». Вы думаете, что это нереально? Это абсолютно реально! Ещё 30-40 лет назад казалось, что нереально объявлять, что «в мире есть больше, чем два пола», и что нереально, чтобы кого-то заставляли так думать. А вот и реально: в Европе приняты законы, которые предусматривают уголовную ответственность за то, что вы, например, думаете по-другому! Это всё быстро продвигается, поэтому я и призываю к трезвомыслию.
Ещё комментарий слушательницы: «У человека тоже голова обрабатывает информацию и делает какие-то выводы на основе полученных знаний, называется это интеллектом. А ИИ собирает все знания из Интернета». Полушутливый вопрос: «Если доверить Центробанку управление ИИ, лучше будет?»
Сергей Михеев: Давайте попробуем. Лечение живых людей ИИ доверяют, а что касается денег - это нет. «Собирать денежки у вас - тут мы сейчас внедрим программы, а распределять их – это мы сами». Вот вам ответы на все вопросы, дорогие радиослушатели! Давайте спросим у ИИ, правильная ли эта ставка Центробанка? В зависимости от его ответа и будем действовать. Пусть кто-нибудь напишет статью в газету: «Почему вы необоснованно запрещаете ИИ управлять нашей финансовой политикой?»
Еще вопрос: «А так ли важно находить виноватых?»
Сергей Михеев: Виноватых находить важно, когда вы пострадали, а когда пострадал кто-то другой, вам, наверное, это неважно.