Как я уже писал раньше, только очень ленивый человек сейчас не говорит об искусственном интеллекте и его возможностях. И хотя я, вероятно, довольно ленив, но все же не дотягиваю до идеала лени и не могу удержаться от того, чтобы высказать свое мнение об ИИ.
Прежде всего я думаю, что со словом "интеллект" стоит разобраться. С латыни – ум, понимание, рассудок. И вот к компьютерной программе, сортирующей по определенным правилам слова или пиксели, это самое определение не имеет никакого отношения на мой взгляд. В название программы его вставили умные люди, чтобы придать значимости достижениям в области автоматизированной обработки информации. И, в общем-то, удалось. Ведь назови программу как-нибудь по заумному- и всем станет скучно (мало ли таких программ, о которых мы ничего не знаем), а назови интеллектом, разумом – и вот уже мерещатся обывателю человекоподобные роботы, могучие искусственные разумы, способные едва ли не свергнуть человечества с трона "венца эволюции".
Как бы то ни было, еще со времен отцов-основателей и самого Тьюринга – словосочетание "машинный интеллект" или "искусственный интеллект" прижилось и сейчас служит для определения различных программных систем, позволяющих анализировать информацию. Пусть так и будет, хотя, надо признаться, это слово вносит некоторую путаницу. Сами отцы основатели, впрочем, признавали, что введенный ими термин далек от того, что мы понимаем под интеллектом человеческим. Впрочем, в английском языке словосочетание звучит менее вызывающе, чем в русском: artificial intelligence, а не intellect.
Проще говоря, думать машины все еще не умеют, и сознанием ни одна из них не обладает. Будут ли обладать в будущем? Для того, чтобы ответить на этот вопрос необходимо в первую очередь понять, что такое сознание вообще. А это, увы, предмет жарких, но пока совершенно бесплодных споров на границе философии, медицины, биологии и даже физики. Даже общей теории пока нет, зато есть десяток частных, полностью опровергающих друг друга и приводящих взаимоисключающие аргументы и контраргументы. Подробнее об этом расскажу позднее. Поэтому вопрос возможен ли "сильный" искусственный интеллект, т.е. иашина, программа, способная мыслить, а не просто перекидывать информацию из одной ячейки памяти в другую, пока лишен смысла: мы просто не понимаем до конца, что же значит "мыслить" и "осознавать".
Строго говоря, а все ли люди способны по настоящему мыслить и осознавать себя? Или некоторые (многие) действуют просто по сложным алгоритмам? Глядя на некоторые поступки и решения такое приходит в голову.
И тест Тьюринга, когда человек не сможет определить с кем он беседует, с человеком или машиной, здесь не очень работает, на мой взгляд. Есть такой, довольно известный, мысленный эксперимент "китайская комната". Представьте себе комнату в которую посадили меня или вас (если вы знаете китайский язык – представьте кого-то еще). Я вот китайского языка не знаю совсем. Но мне дали кучу карточек с китайскими иероглифами и оставили подробные инструкции на русском языке, какие иероглифы в каком случае применять. Человек вне комнаты – китаец, не знающий о том, что или кто находится в комнате. Он задает мне вопросы в виде записок на китайском, а я, следуя оставленным мне инструкциям, выдаю соответствующие карточки. Точность моих ответов зависит только от качества оставленных мне инструкций, но никак от моего знания китайского. И если китайцу за пределами комнаты кажется, что я таки тоже китаец – он просто ошибается, у меня очень хорошие инструкции, вот и все. Можно даже продолжить этот эксперимент: если мой ответ кажется китайцу нелогичным он нажимает на кнопку и дает мне знать, что я ошибся, и я снова подбираю карточки до тех пор, пока мой ответ его не удовлетворит. Потом дописываю это в свою инструкцию, и в следующий раз выдаю сразу правильный ответ. Причем, поскольку я – продвинутая биологическая нейросеть, я вполне могу заметить закономерность, что при поступлении скажем иероглифа А, чаще правильным является ответ с иероглифом Б, а не Г или Д. Значит ли все это, что я стал понимать китайский язык. Отнюдь: я по прежнему не понимаю ни смысла переданных мне иероглифов, ни смысла выставленных мною в ответ карточек.
Но может ли тогда искусственный интеллект быть опасен?
Да, вполне, если слишком доверять ему. И вовсе не потому, что у него есть сознание или мысли, и эти мысли направлены на то, как уничтожить человечество. Как раз напротив – потому что сознания у него нет.
Сколько бы я ни работал с ИИ, какие бы промпты не переписывал десятки раз, результат очень редко удовлетворял меня полностью. Тот же "дзен" и "контакт" сейчас наводнили посты и картинки созданные ИИ. Думающий и эрудированный человек видит их почти сразу. Дело в том, что какой бы "умной" не была машина на нынешнем уровне развития, она все же просто анализирует информацию, и в этой информации много ошибок, ложных посылов и директив. Поэтому и результат получается – так себе, вроде и направление то, но и чушью какой-то пахнет.
Но сейчас ИИ доверяют все больше и больше. Результаты обработки им информации все чаще используется для того, чтобы принимать решения без предварительного тщательного критического их анализа. ИИ могут доверить медицинские операции, финансовые, политические и даже – упаси Бог – военные решения.
На ИИ полагаются нерадивые ученики и учителя, принимающие его результаты за чистую монету и усваивающие их как настоящие знания. А это ведет к накоплению системных ошибок уже в настоящем, человеческом интеллекте.
С помощью программ ИИ, могут влиять на массы представители так называемой "элиты". Это тоже самое, чем занималось "министерство правды" в известном произведении Оруэлла.
Да, и такой ИИ – вполне может быть опасен. Очень опасен.
А вот разумный ИИ, если он когда-нибудь возникнет, мне кажется, будет гораздо менее "вредным". С ним всегда можно будет договориться, думаю. Как два разумных человека, даже если они непримиримо расходятся в чем-то, могут договориться; и это проще, чем договор между умником, и, скажем политкорректно, не очень умным человеком.
У меня множество рассказов на тему ИИ. Например этот или этот Я сам пытаюсь понять последствия его применения. Большинство из них я, в скором времени, соберу на отдельном сайте. А завтра опубликую еще один небольшой рассказик здесь.