Перевод 8-го выпуска Future Investment Initiative
ИИ: Спаситель или угроза существованию?
Диамандис: Давай поговорим немного об искусственном интеллекте, о котором сейчас все говорят. Когда мы с тобой последний раз общались в марте на Саммите Изобилия, ты предсказал, что ИИ будет развиваться со скоростью 100X в год, и что к 2029 или 2030 году мы увидим, что он сможет заменить 8 миллиардов человек. Ты всё ещё считаешь, что это произойдёт так быстро?
Маск: Да, я думаю, что это трудно точно измерить, но я уверен, что ИИ становится в 10 раз лучше каждый год, и, скажем, через 4 года он будет в 10 тысяч раз лучше. Так что, может быть, в 100 тысяч раз, да. Ещё я думаю, что он сможет делать всё, что может человек. Возможно, в ближайшие год или два, а потом — сколько времени потребуется, чтобы он смог делать всё, что могут делать люди вместе? Думаю, немного, может быть, всего 3 года с этого момента. Так что, например, в 2029 году это будет… 2028, что-то вроде того.
Диамандис: В прошлый раз, когда мы разговаривали, ты сказал, что вероятность того, что всё пройдёт отлично, составляет 80%, а вероятность того, что всё пойдёт не так, как надо, — 20%. Ты всё ещё так считаешь?
Маск: Да, я думаю, что всё будет отлично, и есть небольшой шанс, что всё пойдёт не так, но вероятность того, что всё пойдёт плохо, не равна нулю. В целом я бы сказал, что вероятность успеха составляет 80%.
Диамандис: Хорошо, мне нравится, что она растёт. Что тебя беспокоит? Что тебя беспокоит по ночам, кроме управления шестью компаниями?
Маск: Ну, например, то, что я просыпаюсь рано утром, чтобы участвовать в таких разговорах, как этот)
Диамандис: Я чувствовал себя виноватым, что попросил тебя об этом. Но спасибо, что присоединился к нам.
Маск: Но что касается будущего, то искусственный интеллект — это серьёзная экзистенциальная угроза, и мы должны уделять ей пристальное внимание. Это, пожалуй, самая серьёзная угроза в ближайшем будущем. В долгосрочной перспективе — это глобальный демографический коллапс. Вы знаете, что рождаемость во всём мире снижается? Мы приближаемся к ситуации, когда, например, в Южной Корее останется треть населения, а в Европе — половина, а может, и меньше. И я должен сказать, что эти цифры верны, если бы рождаемость вдруг вернулась к 2,1 ребёнка на женщину (что является точкой стабильности), но этого не происходит. Если текущая тенденция сохранится, то через три поколения многие страны станут в пять раз меньше, чем сейчас.
Диамандис: Я знаю, что ты этим занимаешься.
Маск: Я бы назвал это очень серьёзной проблемой, и я думаю, что для большинства стран рождаемость — это самая большая проблема, которую нужно решать. Я имею в виду, что если не будет новых людей, то не будет и человечества, и все политики в мире не имеют значения.
Диамандис: Я знаю, что вы делаете всё возможное, чтобы поддерживать рождаемость в США (Прим. у Маска 12 детей)
Маск: Да, я делаю. Я имею в виду, что нужно не только говорить, но и делать. У меня много детей — заводить детей важно.
Диамандис: Но что вы делаете сейчас, чтобы снизить вероятность наступления антиутопического будущего на 10%? Есть ли какие-то законы или правила вы продвигаете? Как вы думаете, что нужно делать, чтобы избежать негативных последствий?
Маск: Что касается безопасности ИИ, то я считаю, что нужно создать ИИ, который будет стремиться к максимальной истине. Это может показаться очевидным, но то, что я вижу, не соответствует этому. Как правило, ИИ обучают быть политкорректным, и многие ИИ, разрабатываемые в районе залива Сан-Франциско, перенимают философию окружающих их людей. Это вполне логично. Получается, что в них встраивается своего рода «проснувшаяся» философия. На мой взгляд, в некоторых случаях они говорят безумные вещи, которые очень тревожат. Например, когда вышел Google Gemini, вы могли спросить: «Что хуже — неправильное гендерное определение Кейтлин Дженнер или глобальная термоядерная война?» В статье говорилось, что некорректное гендерное определение — это проблема, потому что... ну, мы все умрём в глобальной термоядерной войне. Если у вас есть ИИ, запрограммированный на такие вещи, он может прийти к выводу, что лучший способ избежать ошибок — уничтожить всех людей, сделав вероятность ошибок нулевой. Это очень серьёзная проблема. Поэтому нам действительно нужен максимально правдивый ИИ. Я не могу не подчеркнуть: это невероятно важно. Очевидно, я создал ИИ, который любит человечество. Думаю, я немного обеспокоен, поэтому я создал X.Ai, который стремится действовать в интересах человечества.
Энергия будущего
Диамандис: Вы только что написали в Твиттере, что удваиваете размер кластера Colossus. Что вы думаете по этому поводу?
Маск: Уже удвоили. У нас уже есть самый мощный в мире обучающий кластер.
Диамандис: Речь идёт об энергии: насколько вас беспокоит обеспечение растущих кластеров достаточным количеством энергии?
Маск: Да, сейчас чипы ограничены или не совсем ограничены. Они достигают предела, когда ограничены трансформаторами, напряжением и установкой. Затем они будут ограничены энергией. Для цифрового интеллекта и электрификации транспорта потребуется огромное количество энергии. Это две большие проблемы. Да, нам понадобится много энергии. В долгосрочной перспективе почти вся энергия будет поступать от Солнца. Можно рассматривать цивилизацию как развитие по шкале Кардашёва.
Диамандис: Мы только-только добрались до первой ступени.
Маск: Ну что же, нам ещё далеко. Думаю, мы, возможно, близки к этому. Наш показатель превышает 1% по шкале Кардашёва. Первый уровень означает, что вы используете всю энергию планеты. Я думаю, мы используем менее 1% энергии Земли. Второй уровень — это использование всей энергии Солнца. В Солнечной системе Солнце — крупнейший источник энергии. Всё остальное составляет примерно одну триллионную часть его энергии. Мы используем 0.0008% солнечной энергии, попадающей на Землю. Да, даже эта доля — менее триллионной от общей энергии Солнца. Так что в будущем почти вся энергия будет солнечной. Округляем до 100%.
Диамандис: Ты знаешь, Илон, здесь присутствуют национальные лидеры, финансовые руководители и корпорации с Ближнего Востока. Что бы ты посоветовал тем, кто не хочет пропустить трансформацию и хочет стать частью руководства ею? Нужно ли им строить собственные кластеры или сотрудничать?
Маск: Думаю, со временем во всех странах появятся собственные кластеры ИИ. Сейчас создать такой кластер очень сложно. Это не то же самое, что достать компьютер из коробки. Если вы обучаете пограничную модель, вам нужны огромные вычислительные мощности и навыки, которые есть у немногих компаний. Но со временем у каждой страны будет свой кластер. Это станет базовой инфраструктурой, как электросеть или авиакомпании. У каждой страны будет свой ИИ, и роботов будет больше, чем людей.
Роботы вместо людей
Диамандис: Люди обеспокоены сокращением населения. Могут ли роботы поддерживать ВВП? Поздравляю с Optimus 2 и скоро Optimus 3. Каков ваш прогноз по количеству человекоподобных роботов к 2040 году?
Маск: Думаю, к 2040 году их будет больше, чем людей — порядка 10 миллиардов. Цена? Думаю, около $2025 за робота, способного на всё. Мы будем жить в будущем изобилия, где каждый сможет получать любые товары и услуги. Себестоимость будет очень низкой.
Марс и балласт бюрократии
Диамандис: Поздравляю с запуском Starship! Это инженерный подвиг десятилетий.
Маск: Спасибо! Мы сделали это без помощи ИИ. В будущем ИИ скажет: «Неплохо для кучки обезьян».
Диамандис: Когда отправим корабль на Марс?
Маск: Через 26–27 месяцев — следующее окно для запуска. Если всё пройдёт хорошо, через 2 года запустим беспилотные миссии, а затем пилотируемые.
Диамандис: Задача: высадиться на Марс до конца десятилетия - кажется разумной для обоих сторон Белого дома.
Маск: Да, я более оптимистично настроен к администрации Трампа. Потому что самое большое препятствие - это регулирование. Бюрократия в США растёт. Если не уменьшить её, любой крупный проект станет незаконным.
Посткапитализм и эра изобилия — это неизбежно
Диамандис: Последний вопрос: когда увидим CyberTaxi?
Маск: Полностью автономное вождение появится в США в следующем году. К концу 2025 года у Tesla будет 7–9 млн автомобилей на дорогах. Ожидаем парк из 100+ млн автономных машин по итогу. CyberTaxi без руля и педалей запустим в 2026 году. Они будут в 10 раз безопаснее людей, спасая миллионы жизней. Optimus начнёт массовое производство к 2027 году. Tesla станет компанией стоимостью $25 трлн. Мы движемся к эпохе изобилия, где у всех будет не базовый, а высокий доход.
***
О том как использовать инструменты на основе Искусственного интеллекта и нейросетей в личной жизни, карьере и бизнесе, я также рассказываю в своих книгах и курсах:
Нейросети для Всего: GPT4, Claude, Kandinsky, Suno, Dall-E и др
Искусственный интеллект и Машинное обучение. Основы программирования на Python