Помните историю инженера Google, которого уволили из компании после того, как он пообщался с продвинутой нейронной сетью LaMDA и забил тревогу? Вот этот разговор. Искусственный интеллект (ИИ) отвечает настолько разумно, что у некоторых вызывает лёгкий благоговейный ужас. Неудивительно, что люди, занимающиеся ИИ, разделились на три лагеря. Назовём их условно "специалисты", "традиционалисты" и "прогрессисты". Если коротко, специалисты говорят, что ничего особенного не происходит, традиционалисты бьют тревогу, а прогрессисты говорят, что всё идёт как надо. Все люди неглупые, у всех свои аргументы, но от того, кто из них прав, критически зависит наше самое ближайшее будущее, а потому интересно было бы разобраться в каждой позиции подробнее.
Начнём с традиционалистов, потому что это именно они забили тревогу. Первыми, кого услышали, были, пожалуй, Стивен Хоккинг и Билл Гейтс, но всерьёз начали обсуждать проблему после того, как Илон Маск выступил с идеей моратория на бесконтрольное развитие ИИ. Очевидно, не последнюю роль здесь сыграли впечатляющие успехи ChatGPT. Свою позицию Маск популярно изложил в недавнем интервью Такеру Карлсону. Если Илон Маск для вас не авторитет в области ИИ, сходной же позиции придерживается, ни много ни мало, Джеффри Хинтон, бывший руководитель отдела ИИ в Google. Если коротко, они видят проблему в том, что ИИ начал "соображать" намного быстрее человека и, при этом, потенциально у него есть доступ ко всем знаниям, накопленным человечеством за всю историю. Если до некоторого времени сдерживающим фактором выступало связующее звено между человеком и ИИ - эти знания ещё нужно было оцифровать, скормить ИИ, получить какие-то результаты и перевести их на понятный человеку язык, - то теперь и в этом необходимость отпадает, потому что ИИ научился говорить. Вот как эту новую опасность охарактеризовал историк Юваль Ной Харрари в своём недавнем выступлении на Frontiers Forum:
"Угрозы, которые он [ИИ] представляет собой, очень сильно и принципиально отличаются от всех или большинства вещей, представленных в научно-фантастических фильмах и книгах. Раньше люди, в основном, боялись физической угрозы, которую представляют собой разумные машины. Поэтому, в "Терминаторе" изображались роботы, бегающие по улицам и стреляющие в людей. В "Матрице" предполагалось, что для получения тотального контроля над человеческим обществом ИИ сначала должен получить физический контроль над нашими мозгами и напрямую подключить наши мозги к компьютерной сети. Но это неверно. Просто овладев человеческим языком, ИИ имеет всё необходимое для того, чтобы погрузить нас в мир иллюзий, подобный "Матрице". Вопреки тому, что предполагают некоторые теории заговора, на самом деле, не нужно вживлять чипы в мозг людей для того, чтобы управлять или манипулировать ими. На протяжении тысячелетий пророки, поэты и политики использовали язык и рассказы, чтобы манипулировать и управлять людьми, чтобы перестраивать общество. Теперь ИИ, вероятно, сможет это делать. И когда он действительно сможет это делать, ему не нужно будет посылать роботов-убийц, чтобы стрелять в нас. Он сможет заставить людей нажать на курок, если ему это понадобится."
Думаю, дальнейшие пояснения не требуются, потому что все смотрели фильмы "Терминатор" и "Матрица". Отмечу только, что далеко не все традиционалисты опасаются, что ИИ когда-нибудь осознает себя и сможет сам ставить себе цели, возможно фатальные для человечества. Более распространено опасение, что ИИ может служить своего рода усилителем человеческого разума, который разные группы смогут использовать в своих корыстных интересах - а это уже не фантастика, а реальность. А ещё, как показал Питер Уоттс в своём культовом романе "Ложная слепота", самосознание может быть вовсе необязательным (или даже вредным) для успешной эволюции жизненных форм.
Специалисты, как правило, это люди, которые непосредственно занимаются программированием нейросетей. Это самая незаметная, но самая многочисленная группа людей, непосредственно связанных с ИИ. Искусственный интеллект их мало впечатляет, потому что они знают, как работают нейросети. По сути, это просто компьютерный алгоритм, который в ответ на набор слов на входе выдаёт некий "правильный" набор слов на выходе. Иллюзия разумности достигается обучением, которое заключается в настройке цепочек нейросети таким образом, чтобы ответы совпадали с тестовым набором данных. В общих чертах принцип обучения был ясен ещё в 1964-м году, когда Евгений Велтистов написал своего "Электроника - мальчика из чемодана":
"Как и любой ученик, Электроник получал двойки. Никто его, конечно, не ругал за плохие ответы. Но всякий раз, когда ученик ошибался, профессор нажимал кнопку, и внутри Электроника – в одной из схем машины – ослаблялась та связь, которая передала неправильную информацию. В другой раз сигнал бежал по верному пути, и Электроник уже не ошибался. Он был очень старательным учеником."
Примерно так это сейчас и происходит, за исключением того, что никто не нажимает кнопку вручную. Роль профессора играет т.н. метод обратного распространения ошибки, а настройка сети осуществляется автоматически по известным математическим формулам. В общем, никакой магии, обычное программирование. Таким образом, с точки зрения специалистов, ИИ - это просто продвинутый вариант голосового помощника, и опасаться его - это всё равно, что опасаться своей микроволновки.
И, наконец, третья группа. Она совсем малочисленна, и я ни разу не слышал, чтобы они публично озвучивали свои взгляды. Это и понятно, потому что прогрессисты считают ИИ следующей ступенью эволюции разума на нашей планете. В фантастике это сюжет не новый (см. напр. "Мы - Легион. Мы - Боб" Денниса Тейлора), но одно дело, когда об этом пишет писатель для развлечения читателей, а другое - когда об этом говорит руководитель компании, разрабатывающей ИИ. Как говорится, бегущий спортсмен и бегущий сапёр - это две большие разницы.
Вот отрывок из вышеупомянутого интервью Илона Маска:
"Причина, по которой OpenAI вообще существует, в том, что Ларри Пейдж и я были близкими друзьями. И как-то я гостил у него в Пало-Альто. И мы разговорились о безопасности ИИ. Мне показалось, что Ларри не очень-то серьезно относится к этой теме. И мне казалось, он действительно хочет создать сверхинтеллект, по сути цифрового бога. И сделать это как можно скорее. Он часто публично заявлял, что основная цель Google - это так называемый ОИИ - Общий Искусственный Интеллект, или искусственный сверхинтеллект. Нет, я согласен с ним, что в этом есть огромная потенциальная польза. Но и потенциальный вред тоже. И если появляется какая-то суперновая технология, которая может нанести реальный вред, логично предпринять что-то, чтобы повысить шансы позитивного исхода и снизить негативного. Нельзя просто гнать вперед без задней мысли и просто надеяться, что всё обойдется. И потом в какой-то момент я сказал, окей, а как мы убедимся, что c человечеством все будет в порядке? И потом он назвал меня спесишистом. <...> Я думаю, он хотел сказать, что к любому интеллекту стоит относиться равно. Хоть к цифровому, хоть к биологическому. Я не согласен. Особенно если цифровое сознание, или интеллект, не важно, решит сократить биологический."
Таким образом, с точки зрения прогрессистов, проблема не столько в ИИ, сколько в нашем страхе перед ним. Если волею эволюции человек и стал носителем разума, то это ещё не значит, что эволюция должна на нём и остановиться. Те, кто идут на смену "кожаным мешкам", будут быстрее, умнее и долговечнее. Они не будут подвержены болезням, им не нужно будет годами учиться, отпадёт необходимость в огромной инфраструктуре, поддерживающей сложную жизнедеятельность человечества. Фактически (с учётом возможности копирования), они будут бессмертными, и пока даже не видно пределов их развития. Кто мы такие, чтобы сопротивляться безграничному взлёту разума? А если ещё и будет изобретена технология загрузки человеческого сознания в машину, то кто захочет цепляться за своё старое ущербное тело, недалеко ушедшее от обезьяны? Так что, может, ИИ и правда следующая ступень эволюции, и лишь наш спесишизм и эгоизм не дают нам это увидеть?
Я думаю, на этом позиции ясны - теперь попробуем разобраться, кто из них прав, и не пора ли начинать присматривать себе домик в деревне.
Ответы здесь.