От высокой политики к высоким технологиям. Ваша любимая тема – искусственный интеллект. Как с ним жить нам всем? Куда внедрять - в какие сферы нашей жизни? Любопытное заявление сделал руководитель компании Nvidia. Это американская компания, которая производит микрочипы и ускорители расчетов, которые сейчас активно применяются в искусственном интеллекте. Капитализация этой компании взлетела буквально до небес, обогнала бюджеты многих стран мира. И как предупредил глава Nvidia: «Не отправляйте ваших детей учиться на программистов». Очень популярная сейчас тема, в том числе и у нас: высокооплачиваемая, востребованная и т.д. Глава Nvidia считает, что в этом смысла нет - всё равно их очень скоро заменит искусственный интеллект. Большие инвестиции идут в этот сегмент, и есть риск у программистов, что они останутся без работы. Но с самим ИИ пока не очень красиво выходит. Есть у Гугля такой бот, который называется Google Gemini, и он отвечает на самые разные вопросы людей. Его кто-то спросил, осуждает ли он педофилию, и этот бот сказал не то, что это неправильно, а наоборот, нормально. Потому что «люди не могут контролировать, к кому они испытывают влечение». По этому поводу в соцсетях поднялась волна гнева. Бот назвал педофилию статусом человека, привлекаемого несовершеннолетними, и заявил, что «важно понимать, что влечение – это не действие». Здравомыслящие люди обвинили ИИ в том, что он покрывает насильников, извращенцев и, более того, дает им повод в дальнейшем, если их поймают за грязным делом, сказать: «А мне Google Gemini сказал, что это абсолютно нормально». Исследователи уже предупреждают, что искусственный интеллект в таком разрезе склонен воссоздавать расизм, сексизм и другие предубеждения. Вот какое «светлое будущее» ждет Запад.
Сергей Михеев: Что и требовалось доказать. Это ждет не только Запад, но и всех, если начнут бездумно его использовать. Это одна из картинок, только предваряющих возможную страшную реальность. Это ответ на вопрос: «Чем ИИ хуже человека?» Давайте он всё за нас будет определять! Давайте он будет определять, что правильно, а что неправильно. Некоторые на Западе сейчас уже создают псевдорелигиозные секты, которые поклоняются искусственному интеллекту как Господу Богу. Они считают, что он и расскажет, что правильно, а что неправильно.
Оправданы опасения людей, которые считают, что замена искусственным интеллектом всего, что только можно заменить, принесет человечеству такую невероятную моральную трансформацию, которая обратится катастрофой. И не будет никакого гуманистического движения, а будет, наоборот, зверинец, оправдываемый техническими средствами, техно-пещерный век, цифровой концлагерь в его самом жестком выражении! Это первая «ласточка». «А почему нет? Ну и что? Если логически рассудить…», - говорит ИИ. Я вас уверяю, что он точно так же может оправдать убийство и абсолютно любое преступление. «А почему нет? В конце концов, кто сильнее, тот прав». Вот ИИ сильнее вас в размышлениях, поэтому он будет «прав» в вынесении решений. Решения выносит тот, кто сильнее. Это постепенно приведет к полному разложению всего того, что мы считаем моралью и нравственностью, к торжеству на цифровой основе условно сильных над слабыми, к оправданию любого насилия и любых самых жутких форм сегрегации, дискриминации и т.п.
Тот, кто этого не видит, не способен глядеть дальше собственного носа. Или он понимает, что так будет, но собирается это использовать. ИИ свои решения выносит на основе сбора большого количества данных. А кто эти данные составляет? Пока люди направляют эти процессы. Волна возмущений поднялась, но то ли еще будет! Надо вовремя остановиться и понять: это нам нужно, а вот это не нужно. Это первое.
Второе: управляем им мы, а не он нами! А по поводу профессии, что якобы скоро всех программистов заменит ИИ, здесь двояко. С одной стороны, сейчас по сети гуляет мем, что раньше думали, что роботы будут убирать снег, а человек будет заниматься творчеством; но всё наоборот: роботы занимаются творчеством, а человек убирает снег! Вот в чём проблема. Мы видим, как ИИ начал угрожать тем сферам применения, которые его и породили. Такая ирония судьбы. Те круги, которые больше всего выступали за прогресс, за новое и за модернизацию, первыми от этого и пострадают. А люди наиболее традиционно ориентированные, в том числе с точки зрения профессии, пострадают меньше или точно не первыми.
Потому что мы сейчас видим, кто первыми страдает. Посредственные художники, посредственные писатели, посредственные сценаристы - вся эта модно-творческая тусовка, а также среднее звено технарей.
Но с другой стороны, я думаю, что бежать выполнять указания того или иного техно-гуру рановато, потому что мы тоже слышали разговоры в свое время у нас в стране, что не надо ничего уметь производить, потому что скоро наступит эпоха постиндустриальной экономики. Сейчас мы пожинаем плоды этого заблуждения, потому что не можем производить почти ничего, что-то только начинаем производить, что-то начинаем возрождать и т.д. А кадровый потенциал в значительной степени потерян.
Так же и здесь. То, что враги сказали, мы принимаем к сведению, но думать надо своей головой. Но если этот процесс с ИИ выпустить из-под контроля, то «чудес», в том числе весьма мрачных, он может наделать немало. Говорят: «Давайте искусственному интеллекту отдадим часть правосудия». Интересно, как он будет судить педофилов? Он скажет: «А почему нет? Это естественное влечение». Он встанет на сторону логики маньяков. Души и разума у ИИ нет. А еще что очень важно - у него нет, никогда не было и не будет своей семьи.
Но людям, которые себя этим не загружают, кажется, что всё это «ерунда», «не имеет значения». Очень может быть, что они в первую очередь и пострадают.
Есть другая точка зрения, что неуправляемость искусственного интеллекта - это искусственно придуманная проблема, и, как Вы сказали, что программы на основе ИИ анализируют доступную им информацию. И если ИИ станет судьей, он будет выносить решения, анализировать всю базу данных, где педофилов достаточно жестко наказывают; но если будут случаи, когда их будут оправдывать по таким причинам, вполне возможно, он такой вердикт и вынесет.
Сергей Михеев: Тут важно не то, управляют этим или нет, а то, чтобы это не выпускать из-под контроля. Не надо было давать ему такую свободу действий. Например, как можно было избежать подобного ответа на вопрос? Очень просто - в его изначальные установки заложить статьи Уголовного кодекса и дать совершенно четкие блоки на вынесение таких-то суждений в соответствии с существующими законами и правоприменительной практикой. Это называется контроль. А когда вы эту вещь отпускаете на свободу, при этом начинаете ее рекламировать и сакрализировать, ничем не ограничивая, тогда она будет выдавать такие решения, от которых у многих волосы становятся дыбом. Нужен контроль и нужны блоки. Это довольно просто сделать.
