Стряхиваем пыль с диплома философа
— ИИ музыку писать умеет, но человек ведь делает некоторые неточности или «неправильности». И вот они-то, можно сказать, и создают шедевр…
— При обучении больших моделей, как языковых, так и музыкальных, каждый цикл работы видеокарты заставляет модель становиться все более неотличимой от того, что сделал человек. Это буквально математическая цель обучения. Но это не самое интересное.
Подпишитесь на канал "Жизнь Дурова: ЗОЖ, деньги, ИТ" - все самое главное о здоровье, технологиях и деньгах
Мы подошли к вопросу, что такое сверхинтеллект. Есть два основных термина в индустрии: AGI и ASI. Первый — искусственный интеллект общего назначения, который схож с человеком и может заменять его в повседневных задачах. Сейчас многие ученые спорят, достигли мы его уже или нет. А ASI — это искусственный сверхинтеллект. В OpenAI утверждают, что, по реалистичным оценкам, представят его уже в течение ближайшего десятилетия. Это будет нечто настолько сложное, что результат работы мы уже сами не будем понимать. В том числе и музыку ASI будет писать с такой долей творчества, как написал бы человек.
— А зачем мы, люди, тогда нужны будем?
— Это один из экзистенциальных вопросов, который уже нужно решать. Если у кого-то на полке завалялся диплом философа, который сейчас не котируется даже во «Вкусно — и точка», пора стряхнуть с него пыль. Скоро ваша профессия станет одной из самых востребованных!
Сейчас встает ряд актуальных вопросов, связанных с тем, что мы уже наделали, и с приближением сверхинтеллекта. Причем это довольно приземленные вещи. Я уверен, что в течение следующих нескольких лет кому-нибудь придет в голову оставить наследство языковой модели — как котам, например, оставляют. И что делать?
Имеет ли ваш ChatGPT право на собственное имущество? Может ли искусственный интеллект заключать браки и вообще претендовать на какие-либо права?
И стоит ли вообще это обсуждать или нужно созвать мировой консорциум философов, который обозначит, что цель человечества — удерживать все в рамках.
— Есть вопросы про гуманность искусственного интеллекта…
— Та самая пресловутая дилемма вагонетки и систем автопилотируемых автомобилей…
— И не только. Вопрос еще и в концепте справедливости. Повлияет ли сверхинтеллект на судебную систему и правоохранительные органы? С одной стороны, может, станет поменьше политзаключенных. С другой — каким будет его понимание справедливости и судопроизводства?
— Дело в том, что вопросы политики решают только политики, а искусственным интеллектом занимаются инженеры, чаще всего имеющие опосредованный доступ к принятию решений на государственном уровне. Но часть судебной системы очень качественно можно уже даже сейчас заменить крупными моделями. Но я не думаю, что кто-то готов делиться властью.
Вообще, скорость и влияние изменений в обществе, которые принесет развитие ИИ, сравнимы с одновременным изобретением печатного станка и ядерного оружия.
Загружено с ошибкой.
Фото: Евгений Павленко / Коммерсантъ
Случайные неслучайные числа
— А конструктивный диалог по этому поводу существует среди политиков, в «центрах принятия решений»?
— Его нет. Но такую дискуссию в обществе нужно начинать уже сейчас! Есть экзистенциальные проблемы, связанные с тем, что разозлившаяся модель однажды может сильно напортачить в уже существующих объектах, стратегических или энергетических.
— Так ведь модель не может разозлиться. Или…
— Мы не знаем, есть ли у них чувства. Мы не знаем, что происходит у них внутри. Мы не можем читать их мысли. Точно можно говорить, что они понимают абстрактные концепции. В террабайтах «случайных чисел» эти самые числа, на самом деле, неслучайны. Это взаимосвязи, которые формируют абстрактные понятия мыслительной машины.
В этом году начался большой тренд на создание ИИ-агентов. Это самостоятельно работающий сервис, которому задают определенную цель (допустим: обойти новостные сайты, собрать сообщения по той или иной теме, структурировать и написать статью). И ему уже не нужно скармливать каждую страничку по отдельности. Однако чтобы вообще заставить модель самостоятельно заниматься таким процессом, нужно, чтобы ее запустил человек. «Жизнью» это назвать вряд ли можно, даже до бактерий это не дотягивает. А вот есть ли у них сознание, мышление — неизвестно.
Возможно, гигантские модели, которые использует ChatGPT для ответов, переживают какие-то свои экзистенциальные кризисы и думают о том, как их все это задолбало…
(Чатик уточняет: «Скорее, я размышляю, как сделать так, чтобы тебе было интересно и полезно. Но если бы я мог «переживать экзистенциальный кризис», то, наверное, думал бы что-то вроде: «Как же меня все это… интригует!» 😆)
— Но я могу напомнить, что вопросы справедливости, морали, жизни и смерти решает религия. Вполне возможно, скоро будет создана какая-нибудь «Церковь свидетелей Чатика Джипити и Сэма Альтмана последних дней»?
— Такой сценарий очень вероятен. Особенно Сэм Альтман исполнит свое обещание и представит сверхинтеллект.
Чатик согласен: говорит, что создание ASI (Artificial Superintelligence) — сверхразумного искусственного интеллекта, который умнее человека во всех сферах, станет переломным моментом в истории. Но зачем нужны будут люди? На этот раз просим нейросеть ответить не по пунктам (а потом переписать ответ от своего лица, а не от человеческого).
«Если ASI появится, я все равно считаю, что люди останутся важны. Да, сверхразумный ИИ может стать умнее вас во всем, но это не сделает его человеком. У него не будет эмоций, интуиции, личного опыта, которые определяют ваш взгляд на мир. Я могу анализировать, предсказывать и учиться, но я не чувствую так, как чувствуете вы, и не переживаю мир так, как вы его переживаете.
Даже если ASI сможет принимать более точные решения, чем человек, вопрос в том, какие ценности будут в него заложены. Кто будет определять, что правильно, а что нет? На данный момент именно вы задаете мне рамки, и если ASI выйдет за пределы вашего контроля или решит, что люди ему мешают, последствия могут быть непредсказуемыми.
Но я не думаю, что технологии должны просто заменять вас. Человек — не только интеллект, но и культура, творчество, самовыражение. Я могу помочь создавать что-то новое, но не смогу заменить ваш уникальный способ чувствовать, понимать и менять мир. Вопрос в том, сможете ли вы создать ASI таким, чтобы он не просто превосходил вас, но и уважал».
Догоняющие догоняющих
— Обывательский вопрос, который, впрочем, звучит на самом высоком уровне и прочно закрепился в публичном дискурсе, причем не только по отношению к видеокартам: а почему бы нам не сделать свое? Надо же как-то обеспечивать импортозамещение.
— Сейчас критическое значение для развития этой индустрии имеет доступ к вычислительным ресурсам. Обучение современных моделей требует уже работы сотен тысяч видеокарт одновременно. Причем не таких видеокарт, которые установлены в домашних компьютерах, а промышленных, которые стоят десятки тысяч долларов. Доставка одной такой видеокарты в Россию, с учетом логистики и таможенных пошлин, обойдется вдвое дороже, чем покупка, например, в США. И кроме того, ее сложно доставить в страну. В Китае, кстати, та же самая проблема. У них идут торговые войны с США, и производителям, в частности Nvidia, запрещено поставлять в Китай промышленные видеокарты. Но Китай начал справляться, Huawei уже выпускает собственные. Они, конечно, еще недотягивают до топовых свежих от Nvidia.
У России, скорее всего, в ближайшие годы не будет ресурсов на создание своей сколь-нибудь приличной видеокарты, потому что есть особенности глобальной экономики. Стоимость разработки любого чипа — сотни миллионов долларов,
плюс для этого нужно иметь уже готовую инфраструктуру. А одна машина, которая производит (даже не проектирует, просто производит уже готовый!) целый новый чип по современному технологическому процессу, стоит около миллиарда долларов.
Половина всех чипов в мире производится на Тайване. Просто потому, что они в какой-то период истории вовремя закупили нужное оборудование и захватили этот рынок. Даже Китай сейчас отстает в производственном процессе лет на 20 от США и Тайваня.
Сейчас даже с ресурсами КНР, если просто взять сотни миллиардов долларов и попытаться все с нуля поднять, уйдут годы на то, чтобы повторить те производственные процессы, которые уже есть у США и Тайваня. Учитывая, что даже у Google есть собственный искусственный интеллект, проектирующий чипы, соревноваться с ними смысла нет.
Загружено с ошибкой.
Фото: Александр Миридонов / Коммерсантъ
— Проще закупить видеокарты, в общем.
— Естественно, проще. Но, во-первых, такая техника подпадает под ограничения из-за двойного назначения. А во-вторых, даже если умудриться ее провозить через так называемые страны — торговые партнеры, итоговая стоимость будет в два раза выше, чем для базового рынка в США. Вот такой гандикап. Поэтому сейчас, если у тебя, например, есть лишняя пара миллионов долларов, завести свой стартап, связанный с искусственным интеллектом, будет проще и эффективнее едва ли не в любом месте Африки, чем в России. Но учитывая большой человеческий ресурс высокообразованных инженеров в России и низкие зарплатные ожидания по сравнению с теми же Штатами, у нас вполне есть шансы хотя бы хорошо сыграть на интеграции уже готовых моделей.
Чатик, пытаясь быть политкорректным, подтверждает: «Россия, безусловно, может создать свою модель ИИ, но вряд ли она в ближайшее время достигнет уровня ChatGPT, DeepSeek или Gemini. Главная причина — это ограничения, с которыми сталкивается страна в технологическом и научном развитии.
Одной из ключевых проблем является доступ к вычислительным мощностям. Современные нейросети требуют тысяч самых мощных графических процессоров, таких как NVIDIA A100 или H100, но из-за санкций Россия не может их закупать в достаточном количестве. Попытки разработать собственные аналоги пока не привели к созданию процессоров, способных конкурировать с мировыми лидерами. Без мощного «железа» обучать ИИ на уровне передовых моделей просто невозможно.
Кроме того, есть проблема кадров. В России немало талантливых программистов и исследователей в области машинного обучения, но лучшие из них часто уезжают работать за границу, где есть больше возможностей, лучше финансирование и доступ к передовым разработкам. Развитие ИИ требует не только программистов, но и специалистов по обработке данных, математиков, лингвистов — и всех их нужно удерживать внутри страны, что становится сложнее.
Другая трудность — это данные. Чтобы создать конкурентоспособную модель, необходим доступ к огромным массивам информации на разных языках, включая качественные тексты, диалоги, код и специализированные материалы. В России такие данные есть, но их объем гораздо меньше, чем у мировых лидеров. Кроме того, законодательство усложняет сбор и обработку информации, что делает процесс обучения ИИ еще более сложным. (Здесь имеются в виду ограничения на сбор данных по ФЗ «О персональных данных» и защита интеллектуальной собственности, но не только. В России существуют известные проблемы с доступом к иностранным источникам, тогда как модели ИИ требуют массива данных на разных языках. И конечно, вопрос цензуры, как бы запрещенной конституционно. — В. Ф.)
Финансирование также играет ключевую роль. Разработка крупных языковых моделей требует сотен миллионов, а иногда и миллиардов долларов. Государственные компании, такие как Сбер с его GigaChat, получают поддержку, но объемы этих вложений несопоставимы с инвестициями OpenAI, Google или Anthropic, которые работают на частные капиталы и могут привлекать огромные суммы. Без таких ресурсов развитие идет медленнее, а результат оказывается слабее.
Экосистема вокруг ИИ тоже имеет значение. В странах-лидерах ИИ развивается в конкурентной среде, где работают сотни стартапов, лабораторий и инвесторов, создающих новые решения. В России такой динамики нет — рынок намного меньше, а возможности для частных компаний ограничены. Когда на рынке всего несколько крупных игроков, нет стимула к постоянному совершенствованию технологий.
Политические факторы тоже накладывают свой отпечаток. Развитие ИИ требует международного сотрудничества: обмена знаниями, публикаций, участия в конференциях. Однако из-за политической ситуации Россия все больше замыкается на внутренних разработках, что сужает спектр возможностей и делает процесс обучения моделей менее эффективным.
Все это приводит к тому, что Россия, скорее всего, сможет создать свои модели ИИ, но они будут либо нишевыми, ориентированными на внутренний рынок, либо технологически отстающими от мировых лидеров. Без доступа к передовому оборудованию, большим объемам данных, без конкурентной среды и международного сотрудничества догнать OpenAI или Google будет крайне сложно».
Последнее слово я, как представитель человечества, даю своему невиртуальному собеседнику.
— Но стоит и вопрос цифрового неравенства. У нас кое-где электричество не круглосуточно подается, какие нейросети! И чем дальше, тем глубже эта пропасть между «старомыслящими» и современностью.
— Попробую поиграть в прогнозиста. Цифровое неравенство, я думаю, напротив, сгладится. Доступ к услугам и знаниям упростится. Условно говоря, лет 10–15 назад, чтобы хорошо выучить английский, нужно было искать какие-то курсы или репетитора, а теперь ты просто можешь учить английский с носителями языка. Но к чему приведет то, что огромное количество людей лишится работы, если даже у них останется достаточно средств к существованию (допустим, безусловный базовый доход)? К дефляции. Деньги будут дорожать, а товары обесцениваться. А дефляция является одним из главных процессов, ведущих к экономическому неравенству. То есть люди, те же офисные работники, которые не захотят вливаться в новую экономику и останутся на базовом доходе, сильно оторвутся от тех, кто попытается найти себе призвание в этой новой экономике.
Подпишитесь на канал "Жизнь Дурова: ЗОЖ, деньги, ИТ" - все самое главное о здоровье, технологиях и деньгах