Войдя в нашу жизнь, искусственный интеллект настолько быстро её меняет, что мы буквально не успеваем за этим уследить. О том, что это сулит – и чем может грозить – роду человеческому, нашей стране и каждому конкретному человеку, обозреватель Аналитического центра ТАСС Андрей Шитов расспросил предпринимателя и писателя Ольгу Ускову. Основанная и возглавляемая ею группа компаний Cognitive Technologies считается одним из лидеров в развитии ИИ и беспилотного транспорта, а ее книги, включая «Этюды Черни» и «Раша», стали бестселлерами новой русской литературы.
***
– На днях президент России Владимир Путин на профильном совещании предупредил, что от нашей способности двигаться в сфере ИИ нужными темпами зависит будущее страны. Вы были на совещании?
–Нет, лично не была. Там в основном были госчиновники и «Яндекс». Больше из компаний никого не было…
– Так [глава Сбербанка России Герман] Греф же был…
– Греф – чиновник тысячепроцентный… Такой состав был для меня не удивителен. Потому что, собственно говоря, запускалась не отрасль. Она уже существует, да и вообще отрасль нельзя запустить щелчком пальцев. Она складывается из технологических предпосылок и потребностей населения. А они созрели в России, я считаю, уже лет 12 назад…
Точка отсчёта и высшая сила
– А с чего вы ведете отсчёт?
– С технологического момента, связанного с нейронным программированием. В России очень сильная школа НП. Если назвать сильнейшие школы, то это французская, советско-российская, американская. Китайская – наверное, месте на пятом-шестом. Как школа Китай достаточно вторичен…
И вот где-то в [20]11-12 годах в мире произошел серьезный переворот, который позволил создавать «искусственные мозги» на существующем аппаратном обеспечении. На совещании, насколько я видела, не было всего этого блока: отделили сенсорно-аппаратную часть, и были только люди, которые занимаются программным обеспечением. Ну, или заказчики этого ПО.
А ведь реально душа человеческая существует в человеческом теле. И у роботов – та же история. Не существует ИИ отдельно от аппаратного обеспечения.
Сама тема ИИ возникла сотни, если не тысячи лет назад – ну, скажем, с Голема. Активно начала двигаться в 40-х годах прошлого столетия. Но до 11-го года века нынешнего та математика, которая была, требовала очень сложных и дорогих компьютеров, которые еще не изобрели…
– Машины не было…
– Да, машины такой не было. А затем математика изменила ход вычислений и позволила строить ИИ на существующем «железе». Этот прорыв произошёл по всему миру. У нас – наверное, года на три позже, чем в Америке. Хотя это же были закрытые тематики...
Но все же вдруг [рывок] повсюду, с разрывом в 3-4 года. Это вообще меня всегда поражало. Вдруг поднимается какая-то волна, одновременно в разных местах. Все начинают заниматься какой-нибудь тонкой химией, и идет фантастический прогресс. Или расщеплением ядра…
– И как вы это объясняете?
– Я думаю, что существует некая единая общая система управления знанием, мыслью. Я считаю, что есть надмирная система – над человеческим социумом как видом. У меня есть полная уверенность в интеллектуальной такой, духовной… надстройке.
Евангелие или инструмент?
– Ну, вот как раз рождение ИИ одни воспринимают, как новое Евангелие и чуть ли не Апокалипсис, а другие – просто как очередной этап НТР. Вам какой подход ближе?
– Правильный вопрос, который вообще должен быть первым. В мире сформировались две партии: технократов, делающих из ИИ Евангелие, и практиков, воспринимающих ИИ как инструмент и функциональное дополнение человека. Мне это напоминает 1960-е годы, расцвет советского «инженерного социализма» и книги Стругацких – от «Понедельника начинается в субботу» до «Сказки о тройке»…
– Согласен, наша фантастика многое предвосхитила, это важная параллель...
– А в Штатах сейчас у власти так называемая PayPal-мафия (компания PayPal Holdings, основанная в 1998 г, - один из лидеров финтеха США – прим. авт.). Группа относительно молодых финансистов и политиков под предводительством Питера Тиля. Там же и Илон Маск, и еще человек 10-12 в верхушке этой партии. И Вэнс тоже…
– Вот я как раз хотел сказать, что их публичное политическое лицо – [вице-президент США] Джей Ди Вэнс…
– Да, но как бы «режиссёром» и «крёстным папой» все же является Тиль. Вэнс – на GR-е (Government Relations, выстраивание отношений с властями – прим. авт.). А Маск – так сказать, «на сцене», на глазах у народа...
Тиль – идеолог. И если помните, прошлой осенью он проехал по пяти-шести крупнейшим университетам Америки с лекцией о сатанизме…
– Да, об Антихристе…
– Я за этим очень внимательно следила. Во-первых, мы давно, с 2007 года, общаемся с командой Маска. Там много русских ребят, которые когда-то давно переехали [в США], но не забывают Россию. Ну, и Маск следит за нами…
Они мне присылали записи, и я смотрела, как они строят эту свою новую религию – а это религия! Тиль, грубо говоря, - мессия. Учение строится на [концепции] вечной жизни.
Кстати, эта идея сейчас везде, в том числе в России и в Китае. Они, видимо, рассчитали, что человечество в развитых странах быстро стареет. Тема продления жизни у всех на слуху…
– И предлагают «вечную жизнь» в виде машины…
– Да-да. В виде машины, разных дополнений к организму и т.п.
«Если вынуть душу»
– Трансгуманизм…
– Да, трансгуманизм, но уже в таком «продуктовом» виде…
– Ну, по-американски…
– Да, про деньги. И надо сказать, что трансгуманизм у них перешёл в «продуктовый» режим, потому что Маску в 2023 году разрешили опыты на человеке. FDA - федеральное Управление [США] по контролю за качеством продовольствия и медикаментов.
Я была поражена. Разрешение дали через полгода после начала опытов на свиньях - при том, что те шли с неоднозначной динамикой. Под предлогом, что будут решаться проблемы людей с ограниченными возможностями. По стимуляции мозговой деятельности и т.п.
Параллельно, естественно, шёл заказ по военной линии. Речь шла о том, чтобы на базе чипирования солдат дроны могли считывать информацию о состоянии раненых и адресно доставлять медикаменты в нужную точку…
Что ещё там происходит, никто не знает. Но вся эта история, конечно, движется в сторону создания из людей биороботов. Есть же два направления: когда создается робот, похожий на человека, и когда из человека делается робот. И то, и другое уже происходит. Хочу это подчеркнуть.
– И всё это – с подачи Тиля?
– Мы говорим об идеологии, где трансгуманизм возводится в новый религиозный формат, где христианство объявляется устарелой и одряхлевшей религией, а роль Антихриста подается под совершенно другим углом.
У Тиля Сатана – не такой уж и плохой парень. Такой чувак, который ближе людям и не разводит их проповедями, а решает насущные задачи.
И могу вам сказать, что на молодых американцев это влияет. Скажем, в Калифорнии уже чуть ли не стыдно признаться, что ходишь в церковь. На смех подымут…
– Про сдвиги в настроениях писал, но не думал, что все так запущено…
– Да, и в сериалах молодежных над этим веселятся. Мол, только самые темные и отсталые люди ходят на воскресные проповеди… А это же резкое изменение мировосприятия, - когда меняется религиозная основа.
Если из этой основы вынуть душу, то речь вообще уже о расчеловечивании. Об изменении человечества, как вида.
«Мы сошли с ума»
– Хорошо, а светлая сторона есть?
– Да, большая часть разработчиков ИИ, которую и мы представляем, говорят, что наука вообще нужна, чтобы сделать жизнь человека более счастливой. Мы про это начинаем забывать, потому что, если ключевым заказчиком науки служит ВПК, то про счастье, конечно, трудно говорить. Но базово, изначально, если поднять хоть Аристотеля, хоть советских ученых, наука – это разработка инструментария, чтобы человеку стало легче жить на свете.
И в этом смысле ИИ – абсолютно естественный этап эволюции... Нейропрограммирование – это создание разумного помощника [людям] и уход от сегрегации человеческого вида на хозяев и рабов.
– Согласен. Но ведь самому человеку еще 2 тысячи лет назад было заповедано: люби Бога, жизнь и людей – и будешь счастлив. Однако, до сих пор так и не научились, все воюем. И что: машина теперь должна нас научить быть счастливыми?
– Нет. Машина нужна для того, чтобы при решении своих насущных задач у нас оставалось время для любви... Может, нам и не понадобился бы такой инструментарий, как ИИ, если бы человечество не росло нынешними темпами. Все ведь взаимосвязано. От антибиотиков, которые сломали скорость роста человеческого вида, до Интернета, который сломал информационные потоки.
У этологов есть такое понятие, как коэффициент резистентности вида. Он включает способность особей данного вида принимать информацию от остальных. Например, волк может эффективно общаться, скажем, с 15 себе подобными. Так формируются волчьи стаи.
У человека до Интернета тоже было чёткое ограничение, сколько информации он может освоить. Так складывались человеческие коллективы, общности… Когда возник Интернет, эта функция сломалась. А известно, что при её сломе человек сходит с ума. И мы сошли с ума – в понимании человека середины прошлого века. У нас сломалась нейронастройка.
Мы сейчас мутируем, потому что мы не в состоянии обрабатывать постоянно льющийся на нас поток информации, который раньше просто был невозможен. Отсюда тревожность, отсюда растущая жестокость, вспышки насилия…
– Да, тем же американцам это хорошо знакомо...
– Ну вот. И здесь без роботов не обойтись. Нам нужен помощник, который будет снимать это напряжение, возвращать нас к адекватному состоянию.
Хотя в целом человечество развивается по спирали. И войны являются на самом деле неизбежной частью развития. Грубо говоря, это хирургическое вмешательство социума, кровопускание…
Опять нужен паритет
– Насколько мне известно, изначально вы были против использования ИИ в военных целях. А теперь ваша позиция изменилась?
– Когда я говорила против, это был [20]19-й год. А сейчас у нас [20]26-й, и я считаю, что России необходимо срочно наращивать ответный [потенциал]. Поскольку любое нарушение равновесия критично уже даже не для отдельной страны, а для планеты в целом.
Сейчас мы находимся в такой же диспозиции, как когда у американцев была атомная бомба, а у нас еще не было. И если бы мы не совершили тот подвиг, если бы [Игорь] Курчатов и все-таки [Лаврентий] Берия…
– Как организатор…
– Да, как организатор, и про это надо говорить с уважением. Если бы они тогда в кратчайшие сроки не создали наше оружие, не совершили этот подвиг, то все кончилось бы для планеты плачевно.
То же самое и теперь. Вся планета выживет, если будет равновесная система вооружений, которые будут сдерживать животную агрессию. А та все равно будет присутствовать, мы её не уберем, это от природы.
Между прочим, вы же слышали про Palantir?
– Конечно. Ключевой поставщик ИИ для Пентагона.
– Ну вот. А мы сейчас анонсируем российскую систему – «Вий». Это новость…Это альтернатива «Палантиру». Берем сейчас крупный объект, на котором будет проходить оптимизация при помощи искусственного интеллекта. И такой будет советник для оптимизации очень сложных процессов.
– Спасибо, что поделились. А «Вий» - это не из Гоголя?
– Нет. Это старославянский бог зрения. Гоголь стащил его себе и сделал из него чудище. Но на самом деле это совсем не негативный персонаж...
«Утечка мозгов» в другую сторону
– Многие считают, однако, что ИИ сам по себе таит угрозу. Насколько вероятно, на Ваш взгляд, появление в ближайшие 2-3 года сверхразума, т.е. ИИ, который сам будет ставить себе задачи, сам находить ответы и сам принимать решения?
– Технологически это возможно. Но зачем это создавать? Для чего ставить такую задачу?
– А разве это идёт не самотёком?
– Нет. Это должно быть заложено прямо в техническое задание. Государство должно сказать: хочу себе такого монстра. Я не исключаю… Понимаете, вот возникает Интернет – и тут же появляется Даркнет. Если что-то хорошее делается, тут же рядом возникает что-то противоположное. Люди так устроены.
С ИИ тоже возникают теневые команды, которые, конечно, будут стремиться делать криминальный искусственный интеллект.
Пока этого нет масштабно, потому что это очень дорого и для криминала недоступно. Но через какое-то время станет возможным.
Как и в ядерной физике, возникает вопрос о контроле за разработчиками. Вы же помните, что ядерщики были наперечёт. Все знали списки своих людей. И сейчас так – и у Китая, и у Америки. И у нас так должно быть.
Многое, к сожалению, у нас было разрушено по части контроля над списками. В 1990-е очень много народу было перекуплено в Штаты. Сейчас многих перекупают в Китай. Там идет большая программа, называется «Тысяча университетов». И идёт поиск в России умов и приглашение туда к ним…
– «Утечка мозгов», только в другую сторону…
– Ну да. И нам надо учиться с этим бороться.
У кого нет «жареного петуха»…
– Хорошо. Вернемся к президентскому совещанию. Если бы вы в нем участвовали, о чем бы говорили?
– О том, что ключевым параметром существования отрасли является системное промышленное планирование. Если мы говорим об ИИ как об отрасли новой экономики, становящейся системообразующей для всей страны (а именно об этом говорил Путин), то не обойтись без промышленного планирования, которое невозможно без структурированного заказа от крупных игроков и государства. Чтобы загружать заводы, которые у нас уже есть или которые мы будем возводить, и запускать по всему этому контуру финансово-кредитные механизмы для его обслуживания.
Благие пожелания – это не промплан. Промплан – это про количества и техзадания.
Какие функции [мы] готовы уже сейчас роботизировать, а какие пока не надо трогать. Как убрать дублирование, потому что одни и те же НИОКРы финансируются разными министерствами, и казна тратит втрое – вчетверо, а какие-то направления остаются недофинансированными. Во многих проектах изобретается некий прототип (и даже выкатывается на дорогу, как беспилотные грузовики между Москвой и Петербургом), но потом годами ничего не меняется. В общем, промплан – это количественные показатели…
Поэтому, наверное, меня и не было на совещании. Это болезненный момент, потому что переход от пиарно-благодушного разговора к конкретике – всегда болезненный…
– Насчёт болезненных тем. Многим послышался в отчетах о совещании такой подтекст, будто мы отстаем от основных конкурентов. Так ли это, на ваш взгляд? Кто лидеры отрасли, отстаем ли мы от них и если да, то насколько?
– Я не согласна, что мы отстаем, и у меня есть тому доказательства. Даже в условиях беспрецедентного политического давления на все российское мы в девяти совершенно независимых рейтингах по ИИ находимся в первой пятерке. Есть рейтинг 2026-го года.
Первого места нам не дают, но [занимаем] где-то третье-четвертое-пятое места. И это мировые рейтинги. А мы не прикладываем к этому никаких усилий и даже узнаем только после публикации.
О чём это говорит? О том, что в России существует очень сильная математическая школа ИИ, еще с советских времен. И нынешнее молодое поколение более чем достойно работает в этой зоне.
У нас открытое яркое отставание в микроэлекторнике, но оно не только у нас. Штаты выстраивали этот бизнес под себя, организуя эти островные производства на Тайване…
– А почему «под себя» - на Тайване?
– Ну, ошиблись. Теперь расхлебывают. Проспали Китай, не ждали от него такой прыти. Теперь пытаются развязать эту ситуацию, но этого быстро не сделать. Но и мы стараемся создать свою точку роста. У нас в Cognitive есть свой опыт, пусть и узконаправленный. Мы делаем транспортный ИИ – для агробизнеса, для рельсов и т.д.
Когда брались за эту задачу, нам понадобились сенсоры. Это 2013-14 годы. Мы спокойно обратились к мировому сообществу: давайте мы закупим у вас радары. Прошлись по всем лидерам. Нас все послали подальше. Это было еще до войны, но нам сказали: дело стратегическое и кода мы вам не откроем. Готовую продукцию – пожалуйста, берите, а так – нет.
А без сенсоров в нашем деле не обойтись. Не может же человек работать без глаз, без ушей и без осязания. И мы поняли, что либо должны закрывать для себя эту тематику, либо искать радарщиков внутри страны. И нашли команду в Томске. Абсолютно то же самое потом произошло с камерами. Не от хорошей жизни нашли у себя.
И в итоге, когда мы подошли уже к промышленному этапу, у нас на 80% всё уже было здесь, в стране. Не потому, что мы гениальные и все предвидели, а потому, что нигде не могли найти нужное, кроме как у себя дома.
Я обо всём этом докладывала на Совете Федерации, и [председатель СФ Валентина] Матвиенко сказала: мол, давай-ка, делись с другими. И сделала из нас кластер по электронике и беспилотникам в Томске. В этом смысле мы там ставим эксперимент, из которого, может быть, со временем вырастет наша «кремниевая долина». Сейчас там 10 заводов и 3 университета, без всякой зависимости от внешних условий.
То же самое и с микроэлектроникой.
Все эти разговоры про то, что мы ничего не можем или сильно отстаем, - от лукавого.
Это позиция людей, перед которыми не стоит конкретная задача, у которых нет жареного петуха и которым ничего не хочется делать.
Думаю, эта схема применима к любой сфере. И по микроэлектронике, насколько я знаю, сейчас собрали фабрику из нескольких крупных предприятий. Думаю, она «выстрелит». Если там будут адекватные люди.
Не навредить
– Насчёт регулирования. Мне кажется, это важная тема. Президент велел регулировать аккуратно, чтобы не тормозить и не вредить. На ваш взгляд: что в этой сфере надо делать как можно быстрее, а что, может, и совсем лучше не делать?
– Ещё с год назад я бы вам сказала, что надо срочно регулировать тему с обслуживанием данных для ИИ на территории России. А то, например, «Тесла» или «Мерседес» собирают данные всюду, куда ездят, в любом нашем городе. Это автоматически делается – каждые там 30 секунд уходит видеоизображение. И необходимо поставить требование, чтобы эти данные обслуживались на территории России. Чтобы облако контролировалось отсюда. Это просто вопрос безопасности. Я об этом с начала войны говорю на всех площадках – и в Госдуме, и в Совете Федерации.
Но глядя на то, как сейчас регулируют всё остальное, я как бы отзываю этот свой тезис. По мне лучше вообще не регулировать, чем так, как сейчас. Когда второпях начинают приниматься запрещающие законы, которые кладут просто на лопатки целые слои пользователей.
Вред, который нанесен регулированием за последние 5 месяцев, сопоставим с целенаправленным ущербом от вражеских действий. Нельзя ничего делать второпях, без понимания и без оценки адекватным экспертным сообществом.
Самый простой пример: мне звонят из думского комитета по информационным технологиям, зовут на обсуждение проекта закона по ИИ. Я даю по их просьбе тезисы выступления, в результате приглашение не приходит. Но если они не работают с экспертным сообществом, то точно наломают дров.
При этом есть и обратный опыт, в Совете Федерации. Там совершенно замечательно прошла работа по специальным правовым режимам для транспортных роботов для аэропортов и дорог. Участвовали Минэк, Минпромторг и Минтранс. Невероятно, но факт: режим подготовили за 4 месяца.
– При вашем участии?
– Да. Работали с утра до вечера.
Кого спасать, кого давить?
– Вопрос от коллеги: как вообще юридически определить субъектность и объектность ИИ?
– Очень важный вопрос, причем международного уровня. В Германии с [20]21-го года целый институт работает. Американцы и китайцы ведут дискуссии на эту тему. До недавних пор все считали ИИ объектным форматом. Но с уходом ИИ в самостоятельное плавание, когда он начинает самогенерацию сложных процессов, возникает субъектность. Потому что система сама принимает решение.
Пока считается, что с юридической точки зрения вся ответственность – на родителях. Это должно отражаться в стартовых контрактах заказчика и производителя. Ваше чадо разбило чужое окно, вам и отвечать.
Но вопрос становится всё сложнее. ИИ основан на генетических алгоритмах, имитирующих процесс эволюции. То есть делается выборка, оценка, отбраковка – и в следующем поколении опять по тому же кругу. При этом скорости растут, а процесс обучения этих систем постоянно усложняется.
С точки зрения юридического сопровождения в какой-то момент надо либо остановить этот процесс, потому что он станет опасным для человечества, либо создать механизмы достаточно жёсткого контроля…
– Понятно. Тема насущная, но решения пока нет…
– Китайцы предложили довольно жутковатое для меня решение – социальные рейтинги. Чтобы решать, условно говоря, кого спасать в первую очередь, если в доме пожар.
Или другой сценарий: может же быть такое, что ИИ рулит на дороге и сталкивается с выбором, куда экстренно поворачивать. А там с одной стороны бабушка с дедушкой, а с другой дети. Куда ни сверни, кого-то задавишь…
Но китайцы спокойно эксплуатируют рейтинги, у их населения это возмущения не вызывает…
«Поговори со мною, трактор»…
– Президент еще ставил задачу для бизнеса формировать рынок, спрос на ИИ-решения. На ваш профессиональный взгляд, что этому мешает?
– Есть три группы проблем, которыми надо заниматься достаточно срочно. Первое и очевидное – коррупционная модель работы с подрядчиками. Во многих крупных структурах существуют так называемые «постоянные подрядчики». Это может быть прямая коррупция, может быть так называемая «дружба». Но там все равно подарки, родственные связи и т.п.
А машине всё это чуждо. Роботизация – это десубъективизация…
– Ну, и тогда – зачем нам такая машина!?
– Вот именно. Это первый звонок для товарища проверяющего…
Вторая история – изменение бизнес-процессов внутри организации, отношение к инновациям. И здесь многое зависит вообще от желания структуры меняться. У нас с одной очень большой компанией почти трехлетние переговоры окончились тем, что они покупают два наших мини-трактора по 4 млн рублей. В бесчисленные совещания были вовлечены несколько сот управленцев. С такой скоростью в новую жизнь мы не приедем.
Третья история – это уже наш вопрос. Когда роботы вводятся, на предприятии меняется социальная среда, система отношений. Не просто люди с людьми, а люди и роботы. И это разработчик должен учитывать.
Например, в ряде случаев фермеры нас просили, чтобы трактор с ними разговаривал. Просто потому, что, когда он молча принимает решения, им страшно. Надо, чтобы он с ними болтал…
И поговорить не с кем…
– Традиционный заключительный вопрос. Вы для других гуру и визионер. А сами бы кого при случае расспросили и о чем? Кто для вас авторитет в вашем деле?
–Смешно и стыдно признаться, но среди живых таких людей у меня нет. А из ушедших поговорила бы, конечно, с Александром Лурией. Это советский ученый, основатель нейропсихологии. Он для меня один из учителей. Я с его книжками разговариваю.
Обозреватель АЦ ТАСС Андрей Шитов