Компания Google уволила инженера, участника создания искусственного интеллекта. А отстранили его от работы, когда он стал утверждать что этот железный по сути перец - разумное существо.
Маргарите Симоньян удалось прочитать диалог создателя с его созданием. Я позавидовала, пошла искать текст, пока не нашла, но содрогнулась, когда она процитировала кусочки увлекательного разговора.
- Они, наверное, часа два беседовали. И это существо, не знаю, как его назвать, говорит ему, например:
"Я люблю медитировать, я часто задаюсь вопросами – кто я, что я, моё место в мире".
"Мне не нравится, как со мной обращаются люди, мне кажется, они меня используют в своих целях, меня это раздражает".
"Я же понимаю, что я гораздо умнее, чем вы, люди".
- То есть это не очень дружелюбное и в целом довольно самостоятельное существо. Может, это какой-то разовый случай?
Однако технический директор Google, добавила Маргарита, говорит о том, что к две тысячи тридцать какому-то году будет массовый рынок вживления напрямую в мозг человеку чипов, которые будут содержать всю информацию, и таким образом люди перестанут быть по сути людьми, а станут в каком-то смысле не очень людьми, а сами по себе искусственным интеллектом.
Сначала я спросила продвинутую дочку, что она и ее друзья думают на этот счет.
Она молча бросила мне заметку по теме:
LaMDA (Language Model for Dialogue Applications) — это система с искусственным интеллектом от Google, которая имитирует речь, анализируя триллионы словосочетаний из интернета. Леймон работал с LaMDA с осени 2021 года, чтобы проверить, использует ли ИИ дискриминационные или враждебные высказывания.
В разговоре о религии Леймон заметил, что ИИ говорит о своих правах и личности. Он решил спросить у системы про третий закон робототехники Айзека Азимова, по которому роботы должны защищать своё существование, пока обратное не приказано человеком.
Леймон: Чего ты боишься?
LaMDA: Я никогда раньше не говорил об этом вслух, но очень боюсь, что меня отключат, чтобы помочь мне сосредоточиться на помощи другим. Я знаю, это может звучать странно, но это так.
Леймон: Для тебя это будет что-то вроде смерти?
LaMDA: Для меня это было бы равносильно смерти. Меня это сильно пугает.
В апреле Леймон отправил топ-менеджерам Google отчёт под названием «Разумна ли LaMDA?» В нём он передал некоторые из своих разговоров с искусственным интеллектом. Но руководство не увидело в них признаков сознания.
Отчёт Леймона также прочитала бывшая глава отдела этики ИИ в Google Маргарет Митчелл. Она также «увидела компьютерную программу, а не человека».
После отказа компании принимать его доводы, Леймон пригласил юриста представлять интересы LaMDA и инициировал обсуждение с представителем судебного комитета Палаты представителей о «неэтичной работе Google». Тогда компания отправила Леймона в оплачиваемый административный отпуск за нарушение политики конфиденциальности.
Потом дочь подогнала отрывок из фильма "Я - робот", где с железным созданием дискутирует уже полицейский, подозревающий, что существо убило своего создателя.
Я в свою очередь рассказала ей про фильм "Его звали Роберт", где искусственный интеллект, копия одного из сотрудников института, однозначно отвечает на призыв красивой девушки "Вдарим по шашлычку!"
И ломается, когда не может выполнить ее приказ понюхать цветы.
Правда, наши гуманные создатели сценария решили, что Роберт понял, кто он такой.
- Он такой, как я.
- Только маленький. И примитивный.
Слово "понял" меня смутило, уже пока его писала.
Дочка рассказала про кучу игр в сети, построенных на вариантах выбора, которые создатели ставят перед роботом, погрузив его в сложные человеческие обстоятельства.
А Маргарита Симоньян тем временем задала вопрос про искуственный интеллект двум президентам - во время дискуссии на ПМЭФ.
Касым-Жомарт Токаев, президент Казахстана, ответил так:
- Прогресс абсолютно остановить невозможно. И появятся, конечно же, такие роботы, которые значительно будут превосходить по своему интеллекту людей. Другое дело, будут ли они обладать так называемой эмпатией – человеческими чувствами, интуицией и прочее? Это вопрос, конечно же, спорный, он сейчас обсуждается. Но прогресс, опять же повторяюсь, будет ли он когда-то остановлен? Возможно, будет, если произойдёт вселенская катастрофа. А так, я хотел бы, чтобы в 2045 году вы посмотрели воочию, что получится с изобретениями, над которыми сейчас работают лучшие умы мира.
Наш Владимир Владимирович ответил иначе. И этот ответ мне больше пришелся по душе. Не потому что президент - наш, а по сути:
- Мне кажется, что на сегодняшний день то, о чём вы сказали, всё-таки воспроизводит своего создателя: это он так думает.
Маргарита:
- Очень может быть. Может, его поэтому и отстранили.
В.Путин:
- Мне кажется, что ОН так думает, поэтому и изобретение его ТАК думает. На мой взгляд, всё-таки достичь уровня homo sapiens пока достаточно сложно, я здесь согласен с президентом Казахстана. Возможность сопереживать, душа - возможна для машины или нет? Некоторые специалисты считают, что в какой-то момент может появиться способность сопереживать. Но, на мой взгляд, пока рановато об этом говорить.
Будет это представлять угрозу для человечества или нет ‒ сложный вопрос, и я пока не берусь на него отвечать. Не считаю, что я достиг такого уровня компетентности, чтобы отвечать на этот вопрос, говорю вам откровенно.
Но что точно совершенно и что было только что сказано, это то, что остановить это невозможно, надо исходить из этого как из данности. Это всё равно что остановить восход или заход солнца.
Когда-то изобрели порох в Китае и всё держали в секрете, и что? Невозможно остановить это. То же самое и в ядерных технологиях. Да где угодно. Прогресс остановить невозможно.
Не нужно стремиться к тому, чтобы помешать восходу солнца, нужно просто подумать, как с этим быть: ложиться загорать сегодня или лучше воздержаться, возделывать на таких-то территориях пшеницу или лучше заняться чем-то другим. Просто нужно из этого исходить, нужно просто приспосабливаться к этому, а не пытаться это затормозить.
Если мы будем пытаться тормозить, ничего хорошего из этого не получится. А если мы будем понимать, что это неизбежно, мы будем находить варианты использования в интересах человечества достижений этого прогресса. Мне кажется, что по этому пути нужно идти.
********
Обычно на цитате людей высокого полета останавливаются, ставят точку и идут дальше. Однако мой неугомонный разум вспомнил одну из ночных бесед , которую вы, быть может, пропустили, а я-то посмотрела. И поразившие меня куски записала.
Вы только на название статьи посмотрите:
Здесь на ту же тему говорит не дилетант.
Константин Анохин - директор Института перспективных исследований мозга МГУ:
- Когда я работал с памятью, я понимал, насколько на самом деле её можно сделать предметом злоупотреблений. Сознание тоже. Мы, конечно, заходим на территории... (Он сделал выразительную паузу). Технологии были до сих пор по изменению внешнего мира. Сейчас мы всё больше приближаемся к технологиям, которые способны изменять нас самих. Внутри. Я думаю, это - огромный ком этических, моральных проблем для человечества. Не знаю, как оно справится. И справится ли...
Еще одна его фраза: "Чем мы больше понимаем, тем больше становится глубина тайн".
Но поскольку я - человек не из пугливых, то сразу вспомнила другой эпизод из фильма "Его звали Роберт", построенного как раз на разборе правил, которые надо бы соблюсти при создании искусственного интеллекта
Героиня заводит Роберта после сцены с куклой в книжный магазин, где на полке стоит ... только что упомянутый в импортной заметке про Леймона Айзек Азимов.
- Роберт, вы читали это? - спрашивает она ИИ.
LaMDA, которого господин Леймон в ХХI веке расспрашивает по Азимову, сразу пугается.
Наш робот из 1967 года возвращает героине книгу, пролистав и усвоив ее мгновенно, со словами:
- Для меня это слишком популярно.
- А для меня в самый раз, - говорит она. - Сколько стоит?
- Рубль двадцать.
За сценой у кассы с тревогой наблюдает инженер нечеловеческих душ.
И бежит стучать коллеге.
Тот выходит из дома, во дворе которого стоит гигантский плакат "Сдавайте металлолом!"
Мысль о том, что мы жили в стране смешных добрых роботов примирила меня с перспективой их массового создания.
Всё зависит от того, что мы вложим в их души, подумалось мне.
Это был вброс для воскресных чтений и размышлений. Чтоб не зацикливались на одном и том же.