«Камертон» последнее время посвятил
ряд статей развитию Искусственного интеллекта, робототехники,
зависимости жизни и смерти от проблем цифровизации-компьютеризации,
одновременно человеческого оглупления на фоне технологического подъёма
собственно (хитрых) машин, и что из всего этого по итогу выйдет. Данная
статья — из этого же масс-«интеллектуального» цикла. Полный список
материалов по теме — в конце текста...
Проблемы Искусственного Интеллекта ныне
лидируют среди повесток конференций, тем публикаций, интернет-баталий...
ИИ — лидер в тройке Главных Угроз человечеству. Вечно популярный вопрос
Зарождения Жизни ныне чуть отстает: из-за неприсутствия в списке Угроз…
«Зарождение? — Интересно, но сегодня речь: — про Уничтожение Жизни!» Не
предлагая новых и не критикуя уже сформулированные «ответы», я затрону
не их, но скорее: парадоксы, а то и пароксизмы общественного восприятия
проблем ИИ и ЗЖ. А единственно гипотетический тезис (в титуле статьи)
если изложить подробнее: в вопросе Зарождения Жизни — ответ и на «угрозы Искусственного Интеллекта».
В жанре популяризатора некоторых научных теорий мне довелось беседовать
со многими выдающимися учеными, академиками, членами Президиума РАН.
Темы, близкие к происхождению Жизни, я затрагивал «факультативно», без
прицела на ближайшие публикации. Своего рода наслаждение — наблюдать
широту их научных, жизненных интересов. Ученый секретарь РАН по
масс-теплообмену (т.е. «главный по термодинамике») Леонтьев, генетик
Колчанов, математик Марченко, ведущий геофизик современности Голицын...
щедро делились мыслями о сотворении Вселенной, Жизни, Разума. Очень
жалею, что часть этих факультативных «бонусов» я не
выверял-согласовывал, не публиковал. И начну с беседы моего коллеги,
пожалуй, ведущего популяризатора науки Андрея Ваганова — с Владиленом
Степановичем Летоховым (международный авторитет в сфере ядерной физики,
самый цитируемый в период 1973—1988 гг. российский ученый, преподававший
в научных центрах Европы, США, мира). Для заявленного мною рассмотрения
«парадоксов и пароксизмов общественного восприятия ИИ и ЗЖ», особенно
ценным был момент вопроса Ваганова:
Ваганов: А чем вас так раздражает эксперимент Стенли Миллера? Ведь все логично и красиво: герметичная колба, наполненная метаном, аммиаком, водородом, водяными парами; через эту смесь пропускали электрический разряд, имитирующий молнии; в итоге на стенках колбы образовались аминокислоты — предвестники жизни.
Летохов: Но и множество других веществ можно
получить таким способом. Это — элементарные законы химической физики:
да, углерод может соединяться с кислородом, азотом и так далее. В этом
ничего особенного нет».
Интереснейший момент долгой их беседы,
это: «раздражает». Эмоции по вроде бы вполне научному эксперименту и
теориям Миллера, Опарина, Холдейна... Ваганов точно передает «Дано» и
«Результат» Миллера. Добавлю, что и в десятках подобных опытов из
«подножного» сырья: метан, аммиак, водород, вода, — получали
аминокислоты, «основу жизни». Полагаю, именно определение «аминокислоты —
кирпичики жизни», более полувека абсолютно царящее в мире, — так
раздражало академика Летохова.
То, что выше я назвал «пароксизм общественного сознания» — безотказное
действие негласного, но могущественного союза. Ученый Х говорит (причем
честно): «Я получил аминокислоты!» А тысячи других ученых, псевдоученых —
уже давно вдолбили всему миру: «аминокислоты — кирпичики Жизни». И
миллионы СМИ радостно подхватывают: «Ученый Х — синтезировал Жизнь!»
Астрономы яростно сканируют космос на предмет наличия воды: прочие-то
компоненты «исходники Ученого Х» — практически повсеместны, — найдем
воду = найдем Жизнь.
И кто возразит этому всемирному, почти преступному (по некоторым
последствиям, о которых речь далее) синдикату? Заметит, что сам термин
«кирпичики», компоненты Жизни… плавно подводит нас к (неверному) выводу:
Жизнь — это какая-то Конструкция. Здание, пускай и очень-очень сложное.
А если она — Конструкция, естественно наличие составляющих элементов.
Надо только найти их, собрать.
Раздражает именно групповое жульничество: ученые, псевдоученые,
«британские ученые» и, наконец, — масс-медиа. И хотя в общепринятых
определениях Жизни («обмен веществ, белковые тела...») нет таких
натяжек, как с «аминокислотным Ученым Х», но и в тех определениях тоже
царят десятки веществ:
белки,
аминокислоты,
РНК,
ДНК,
«первичный бульон»,
полипептиды,
азотистые основания,
нуклеотиды...
Сей пестрый хоровод материальных Веществ
принуждает смотреть на них как на элементы Жизни, «необходимые и
достаточные». Взглянем на определения Жизни просто как на текст. Имена
существительные, вещества — почти заслонили слово: «обмен». Тоже имя
существительное, но хоть намекающее на: Процесс, глагол. Правда и
«Обмен» — тоже сугубо материальное понятие, и слишком общее. Юпитер,
космос, пояс астероидов обмениваются потоками «веществ». Тучи,
поверхность земли обмениваются водой: «круговорот». Сложно под горами
материальных веществ докопаться до абсолютно невещественных понятий:
желание, воля — жить и размножаться. Но тогда окажется, что литр
миллеровских аминокислот — ничем не лучше, не жизненнее литра кислоты
соляной, серной. У них, как и у всех веществ, нет желания, воли — стать
двумя литрами. И даже океан аминокислот в этом отношении тоже нейтрален в отличие от мельчайшей «простейшей» бактерии, инфузории, — подобное
желание имеющей.
То раздражающее определение «кирпичики/компоненты Жизни» следует
заменить на: «компоненты тела». С уточнением, что «тела» — это: от
космических тел, камней, до подопытных мышей, мертвых и живых...
Уточнением, стопорящим все эти регулярные сенсации: Британские ученые Y и Z не только пропускали электроразряды, как Х, но еще и облучали,
потряхивали пробирку с «первичным бульоном»! Всё как на ранних стадиях
Земли, и получили важнейшие компоненты жизни… И прочие подобные ахинеи.
Кстати, в обоих мышиных случаях набор компонентов, «кирпичиков» —
идентичен, если подопытная умерла секунду назад. От мышей вообще сложно
отделаться, они — герои ещё средневековых «экспериментов». Тогда ученые
Ван Гельмонт и другие описывали опыты Самозарождения Жизни, именно —
мышей. Их исходники несколько отличались от пробирок Миллера-Опарина:
грязные рубашки, человеческий пот, темное помещение, пшеница, и,
пожалте, любуйтесь — мыши… Намаявшись на даче с этими пронырливыми
бестиями, я вполне допускаю, что Ван Гельмонт не жульничал: манящая
пшеница и неутомимые зубки, прогрызающие все стенки «экспериментальных
баз», комнат! Сложнее было с предъявляемыми самозародившимися в мясе
червяками, но тоже — только до внедрения микроскопов и практики
контрольной стерилизации продукта.
Схожие чувства раздражения вызывают
теории, и сегодня перебирающие то, что они называют «катализаторы Жизни»
на планете: вулканы подогревают, молнии электризуют, ультрафиолет
облучает... Или опыты вроде обсуждавшегося недавнего самозарождения
Жизни у Джона Сазерленда: «Подогревал цианамиды в смеси
гликольальдегидом и цианоацетиленом в присутствии фосфорной кислоты,
облучали ультрафиолетом, и получи... пиримидиновые рибонуклеотиды!»
А рибонуклеотиды, — радостно комментировали журналисты, — это же РНК,
основа геномов! С точки зрения Жизни=конструкции, то был просто: ещё
один строительный компонент, ещё одна «марка кирпича» вроде аминокислот
Миллера. Сазерленду возражали: на ранней Земле не было достаточно
гликольальдегида (вещества типа сахара), и споры уходили в абсурдные
количественные расчеты. А я бы спросил проще: в теле, трупе подопытной
мыши этих рибонуклеотидов — море. А можете ли Вы их, или Ваши «сахарные
РНК», — как-то запустить, уговорить размножаться, жить?
Сведение Жизни — к наборам компонентов «тел» (пускай исчерпывающе точно
найденным и собранным компонентам), это... мягко выражаясь: неверно. Но
столь же неправомерны, наивны будут попытки журналиста (пускай и с
долгим научно-популяризаторским опытом, собеседника корифеев, светил) —
«разоблачать» сонмы ученых, в одном очерке опровергать содержимое томов
отчетов. Я лишь пытаюсь привлечь внимание к симбиозу: исследователь
получает какой-то результат, а общественное мнение, задуренное
медиаштампами, истолковывает это как чаемую сенсацию.
Приведенные мною возражения — довольно общие, наверняка общеизвестные.
Здесь имело смысл их повторить как подводку к другой спорной теме,
обещанной в титуле статьи. И предлагаемая далее определенная логическая
связь проблем Зарождения Жизни, и угроз Искусственного Интеллекта
покажется возможно сомнительной. Скорее залихватской, нежели
общеизвестной.
Признанные лидеры разработки ИИ:
OpenAI (США), основанная в 2015 году Сэмом Альтманом и Илоном Маском;
Anthropic, тоже (США), созданная в 2021 году вышедшими из OpenAI братом и сестрой Дарио, Даниелой Амодеи;
Google DeepMind, подразделение Alphabet (США);
Alibaba (Китай);
ByteDance (Китай), запустивший TikTok.
Лидерство ИИ в списке угроз человечеству подкрепляется со всех сторон. Авторитетная Financial Times, объявляя в статье от 29 мая 2026 г.: «Американская гегемония под угрозой», — поясняет: «Гегемон,
способный заменить и Америку, и Китай — ИИ, искусственный интеллект, а
его будущий хозяин (хозяева) пока не определился. Странно думать о том,
что такая абстракция может быть гегемоном, но мы живем в новом мире». Как утверждают многие эксперты, Claude (продукт фирмы Anthropic,
сложный пакет ИИ) уже «выиграл одну войну» (Венесуэла, январь-2026).
Или был решающим орудием, сотрудником Трампа, министра войны Хегсета,
обеспечившим взятие в плен президента Мадуро. И любой владелец ноутбука,
пользователь Интернета ежесекундно убеждается в могуществе этого
«орудия»: нити мгновенной связи со всем миром, любые вычисления. Почти
монопольное посредничество между человеком и всем интеллектуальным
багажом человечества (поисковики, тотальная оцифровка накопленного за
всю историю мира).
Может «орудие», слуга, сотрудник — «выйти из под контроля», — как
описано в тысячах книг, фильмах? Полагаю, в утвердительном, пугающем
весь мир ответе виноват отчасти Гегель, наиболее подробно рассмотревший
диалектику отношений раб—рабовладелец. Первый, изначально принадлежа
второму, выполняя за него всё более расширяющийся набор действий,
функций, в итоге превращает рабовладельца в полностью зависимого от себя
«придатка». Командование которого, владение — в итоге сводится к
тонкому юридическому параграфу, а зависимость наоборот вырастает в
материальную, вещественную реальность. Крах такого положения неизбежен.
Самый известный из учеников — гегельянец Карл Маркс — протянул ту
диалектику до конца 19 века, а кризис, крах назвал грядущей Мировой
Революцией, Восстанием пролетариата. Капиталисты ситуацию с
пролетариатом, можно сказать, «разрулили». Освободившееся место занял
ИИ. «Восстание машин» в списке мировых угроз. Тут опять адресуюсь к авторитетным рейтингам. Daily Mail в статье «Как на самом деле будет выглядеть конец света?» дает слово исследователю Центра изучения экзистенциальных рисков Кембриджского университета доктору Томасу Мойнихану:
«Апокалипсис — старая идея,
которая восходит к Писанию, но вымирание — напротив, удивительно
современная и основывается на научных знаниях о природе. Пять наиболее
вероятных причин вымирания человечества:Ядерная война,
Биологическое оружие,
Бесконтрольный искусственный интеллект ИИ,
Изменение климата,
Стихийные бедствия или падение астероида».
К тому рейтингу добавлю: ИИ кроме третьей
строчки ответственен и за первые две. По мнению экспертов и большей
части населения, ядерное оружие и другие ОМП пустит в дело — он же, ИИ.
Конкретными «поражающими факторами» самого ИИ (что именно пугает)
называют угрозы:
1. Потеря работы. ИИ заменит бухгалтеров, курьеров, кассиров, юристов, аналитиков, дизайнеров, сценаристов.
2. «Чёрный ящик» — необъяснимость решений ИИ: отказ в кредите, неверный
диагноз, рекомендация судьям строгого приговора. Страх непредсказуемых
алгоритмов не принимающих апелляций.
3. Страх, что ИИ, обученный на массивах данных, созданных людьми, воспримет, усилит человеческие фобии:
национальные,
классовые,
социальные,
сексуальные.
4. Конфликт целей (Alignment
Problem). Экзистенциальный страх, что ИИ, оказавшись умнее человека и
человечества, вдруг решит поставленную ему задачу самым непредвиденным
способом.
5. Оружие и кибербезопасность. Автономные дроны-убийцы, алгоритмы для
создания идеальных вирусов (биооружие) или дипфейки, способные развязать
войну.
6. «Конец реальности». Нейросети уже генерируют реалистичные видео и
тексты. Манипуляция приведёт к невозможности отличить правду от вымысла.
Только первый из пунктов выглядит привычным: страх потери работы из-за машин восходит к началу 19 века: восстание луддитов,
разбивавших станки, лорд Байрон сочинивший красивые стихи в их защиту.
Прочие проблемы «конца реальности», непонятность действия («черный
ящик») требуют, конечно, нового уровня осмысления, но вот… Война, ИИ
решивший уничтожить ненужное человечество, — разумеется, главный ужас. И
главное в фильмах, книгах, эксплуатирующих сей страх: зарождение в
миллиардах компьютерах, соединенных нейросетью (так похоже на сеть
нейронов в человеческом мозге!) — независимого от человека Сознания. Оно
и примет решение, запустит ядерные ракеты и т.д. Именно в этой точке я
нахожу логическую связь проблем ИИ и ЗЖ. Для одной решающей справки
достаточно и моего диплома кибернетика. Хотя и «красный» (с отличием),
но устаревший, выданный в еще прошлом веке, может вызвать подозрения в
некомпетентности, но Справку, выданную «тайну», — вам подтвердят и
сегодняшние творцы OpenAI, Anthropic и других лидеров ИИ.
Что именно происходит в процессорах всех компьютеров? Причем в
сегодняшних, как и в прошло-вековых? Все нейросети мира, собирающие,
несущие информацию в терминах кибернетики: «периферийные устройства».
Клавиатуры, джойстики, сенсорные экраны, мыши (опять они, привет Ван
Гельмонту!) собирают информацию, и действительно, с помощью нейросетей,
дата-центров, миллионов серверов, — они в итоге могут собрать всю
информацию обо всем человечестве. Даже рассортировать её, выдать
какие-то прогнозы на основе экстраполяций и математических алгоритмов
посложнее. В общем: полный аналог размышляющего человека? Но как он все
же «думает», обрабатывает информацию? Проверьте, и окажется, что все
операции в процессорах сводятся к трехадресным командам: «Цифру (1 или 0) в регистре А сложить с цифрой регистра В и поместить в регистр С». На третьем, кажется, курсе мы писали программы в машинных кодах. Потом на языке Ассемблер, потом Фортран, Кобол и т.д…
Над тогдашними машинами, еще не компьютерами, а ЭВМ
(электронно-вычислительные машины) можно смеяться, это не отменит
простейшего факта: по сей день вся обработка данных в самом конечном
пункте сводится к сложениям в регистрах процессора, помещения в ячейки
RAM (не баран, а наоборот: оперативная память) и т.д. Даже три других
простейших арифметических действия: вычитание-умножение-деление —
производные, комбинации из нескольких операций сложения 1 и 0. Все
дальнейшие усложнения вплоть до того что вам кажется диалогом, беседой с
каким-нибудь чат-ботом, рисование и монтаж любых картинок, «смешивающих
реальность с вымыслом»… все это действие программ, поэтапно идущих от
сложения 1 и 0 в регистрах процессоров. Разница между мировой
нейросетью, управляющей миллионами компьютеров и бытовым калькулятором,
лежащим на прилавке рыночного продавца, — только в производительности,
скорости, объемах первичных сложений 1 и 0.
Программы пишет человек, усложняет их, «адаптирует» — компьютер, но на
основе мета-программ, написанных ранее человеком же. В дни написания
сего эссе пришла суперновость о «революции квантовых компьютерах»,
дословно: «Обычно квантовые компьютеры оперируют кубитами, способными
находиться в двух состояниях одновременно — и 0, и 1… В процессоре
созданном в РКЦ на основе 26 ионов кальция, реализованы семиуровневые
кудиты — кусепты, способные принимать значения от 0 до 6». Время еще раз
уточнить: так что именно делает новый квантовый процессор? И вдогон
вопрос — ненавистный всем, поющим нам про «думающие машины»: а что
вообще делают процессоры? Честный ответ: они складывают числа. Пусть
квантовый и в триллион раз быстрее транзисторного, но это тоже
арифметика, операции сложения.
И о главном страхе «восстании машин»
Джек Кларк, сооснователь Anthropic:
«Вероятность того, что к концу 2028 года появится ИИ-система, способная
автономно обучить своего преемника без участия человека, составляет 60
%». Кларк использует термин «no-human-involved»: модель, достаточно
мощная, чтобы самостоятельно создать следующую версию самой себя «без
участия человека» — страшно? Но… без участия человека и ЭВМ 1980-х
отправляла в буфер вывода файл, командовала принтеру, и тот молотил, не
слушаясь более нажатия кнопок, остановить — только выдернув провод из
розетки. Так и к Кларку и его Anthropic есть вопрос: а кто именно в
Машине 2028 года будет делать новую машину, назовем её Машина-2029? «Без
участия человека»?.. А кто в Машине-2029 потом так же — Машину-2030?
В них из квадриллионов операций сложения появится какая-то личность, со
своими желаниями? (Тут и связь с первым вопросом моего эссе: появится
ли, пускай тоже из квадриллиона тонн миллеровских аминокислот, — желание
размножаться, прибавить себе хоть еще пол-литра?)… Нет. Работала и
размножала себя — Программа, написанная Вашими, мистер Кларк,
программистами.
Вообще человеческое думанье, формирование желаний, воли к поступкам —
процесс, иногда включающий в себя — считание, а иногда и нет. Понятно,
что большинство населения Земли интересуют не эти тонкости, а «вопрос
жизни/смерти»: А сможет ли Машина-2030 или там… Машина-2055, —
запустить-таки ядерные ракеты и уничтожить ненужного ей Человека. Так
что сбудется… страшное предсказание пророка Джеймса (Камерона) из «Книги пророчеств Термнатор-2»? Да вполне сможет! Если её подключат к
управлению ракетами. Но виноват будет тот чиновник, что подключил, и…
славная фирма Anthropic или её конкурент, создавшая программу, в которой
был блок и т.д.
И получается, статья мистера Кларка — попытка размыть ответственность. В
конкурентной борьбе создавались и будут создаваться все более
«сильные», разветвленные программы, в которых возможность репликации,
модификации, «самообучения» себя самой — вполне рабочая функция, нужная для выполнения все более сложных задач для победы в той же конкуренции.
Помню себя, писавшего в 1980-х на языке COBOL программы для
внешнеторгового объединения. В сравнении с Claude 3.5 Sonnet фирмы
Anthropic — как детский бумажный самолетик в сравнении с Илонмасковой
ракетой SpaceX, крупнейшей в мире. Или еще меньше, хотя… не удержусь от
занудного повтора: процессоры — мой и Anthropic-овский — делали одно и
то же: складывали 0 и 1.
Для чего эти примитивные «разоблачения, объяснения на пальцах»?
Самый конечный, интересующий всех
политический вывод такой: если планету уничтожит запуск ядерных ракет,
несанкционированное президентами распыление чего-то ядовитого… — это
сделает (ошибочно или злонамеренно) человек-программист, корпорация
программистов, — а не Самозародившаяся в недрах нейросетей Личность.
Ответственной будет — фирма Anthropic, а не злой Цифровой Монстр… В
этом-то и аналогия проблем ЗЖ и ИИ. Неверно/наивно понятый закон
перехода Количества в Качество. Больше-больше аминокислот Миллера,
«первичного бульона» — и самозародится Жизнь. Больше-больше процессоров —
и самозародится Сознание, Личность со своими желаниями.
Выше я формулировал вопрос ученым, синтезировавшим аминокислоты: «А вы можете еще и так “наколдовать”, чтоб они захотели жить?» — Ну, состоят
аминокислоты и «первичные бульоны» из молекул углерода,
(преимущественно) — так почему Углерод не назвать «кирпичиком Жизни»?
Точно такой же простейший вопрос — кибернетикам: Машина думает или
считает? Разница между этими действиями элементарна: думать может
человек, даже не умеющий считать (ребенок, заброшенный в джунгли
«Маугли»). Но в его, ребенка, личности есть нечто, связанное с думаньем:
Желания, Воля. А в каких калькуляторных регистрах процессора, ячейках
RAM может разместиться Воля, добрая или злая? Это весьма напоминает
популярный вопрос: «А что было до Большого Взрыва, рождения Вселенной?» И простейший ответ: «ДО — это просто засечка на оси Времени, а раз Время
родилось вместе со Вселенной, то до неё не могло быть именно — «ДО». Но
самый красивый афористичный ответ, к тому ж под забойную драйвовую
музыку в песне Анны Герасимовой (она же популярный рок-музыкант Умка,
она же ученый, автор успешной диссертации по филологии): «Время никогда не придет. Некуда ему приходить» (см. ниже).
Неутомимые жернова народного юмора,
фольклора пережевывают и свалившуюся «проблему ИИ». То величают
по-русски: «Иван Иваныч», то наоборот сокращают «Искусственный
Интеллект» до вполне еврейской фамилии: Искин… Быстро научились за
манипуляциями интернет-поисковиков, хитро подсовывающих «инфу», за
содержимым статей в различных …педиях видеть не пришествие виртуального дьявола, а политика, рекламодателя. Хорошо бы суметь емко, подобно Анне Герасимовой одной строкой, ответить на эти два «великих вопроса современности», о ЗЖ и ИИ.
Примечание:
Компьютерная ИИ-эпопея В.Катасонова:
Бог и человек: кто кого создал?..
Удивительное предчувствие Валерия Брюсова...
Пьеса Карела Чапека и пророчество о мире роботов и др.
Произведения об ИИ разных авторов:
Цифровая свалка: как Сеть теряет человека
Искусственный интеллект: от мечты фантастов до ChatGPT
ChatGPT как инструмент гибридной войны
Искусственный интеллект: кибернетический рай или рабство homo sapiens?
У ворот электронного концлагеря и др.