Манифест Джека Кларка на Stanford HAI
Два весьма знаменательных события этой недели — (1) в литературе и (2) в разработке ИИ, — удивительным образом сошлись в своем базовом тезисе.
- Роман Виктора Пелевина TRANSHUMANISM INC., опубликованный вчера в России.
- «Манифест» Джека Кларка «Big models: What has happened, where are we going, and who gets to build them», с которым он выступил 23-го августа в Стэнфордском институте человеко-ориентированного искусственного интеллекта (HAI).
Базовый тезис обоих текстов один и тот же.
Мейнстримный тренд развития ИИ, ведет к тому, что невиданные в истории человечества материальные и нематериальные блага
✔️ получат лишь самые богатые бизнесмены, высокие правительственные чиновники и ведущие разработчики ИИ,
✔️ а подавляющему большинству людей эти сверхценные блага просто не достанутся.
В романе Пелевина:
«В будущем богатые люди смогут отделить свой мозг от старящегося тела — и станут жить почти вечно в особом “баночном” измерении. Туда уйдут вожди, мировые олигархи и архитекторы миропорядка. Там будет возможно все. Но в банку пустят не каждого. На земле останется зеленая посткарбоновая цивилизация, уменьшенная до размеров обслуживающего персонала, и слуг-биороботов».
Мало знакомым с положением дел в разработке ИИ такой прогноз кажется антиутопической пугалкой. Они полагаются на коммодизацию ИИ-приложений, что, по их мнению, приведет со временем к радикальному удешевлению приложений и сделает их доступными для большинства (типа современных бесплатных приложений для перевода, генерации текстов и всевозможных игр с фотографиями себя и других).
Вот типичный пример такого рассуждения.
В отличие от подобных критиков, Джек Кларк, 100%-но согласен с Пелевиным, что никакая коммодизация не спасет.
При этом Кларк — один из самых осведомленных экспертов по ИИ в мире, известностью в кругах ИИ разработчиков не уступающий Пелевину в современном российской литбомонде (погуглите, если кто не знает).
Логика «манифеста» Кларка, представленного им на Stanford HAI, не сложнее логики «Манифеста Коммунистической партии» Маркса и Энгельса.
Зачем большому бизнесу делиться сверхприбылью?
Ведь до сих пор монополисты БигТеха этого не делали и ничего, — лишь увеличивают свою капитализацию на десятки и сотни ярдов в год (см. рис. под заголовком).
Что же предлагает Кларк?
Вот текст слайдов выступления Кларка и видео выступления.
Логика предложений Кларка такова.
А) Дальнейшее развитие ИИ решающим образом зависит от увеличения и совершенствования «Больших моделей» (так Кларк именует базовые модели, которые обучаются на основе масштабируемых «больших данных» и могут быть адаптированы (перенастроены) для широкого круга задач нижестоящего уровня — напр. BERT, GPT-3, CLIP).
Б) Доводка и обучение Больших моделей — весьма дорогое дело. И потому это делается сейчас лишь китами БигТеха. Они забирают себе академические разработки таких моделей и совершенствуют их уже без «академиков».
В) «Академики» далее оказываются вне игры. А киты БигТеха, хоть со скрипом, но все же вынуждены делиться достижениями Больших моделей с правительством.
Г) Если все оставить как есть, основными выгодопреобретателями развития ИИ останутся киты БигТеха и высокие чиновники. А большинство людей будут лишь хлебать негативные последствия внедрения все более мощных приложений (типа тотального контроля и т.п.)
Д) Изменить положение вещей может лишь одно — Большие модели должны обучаться и совершенствоваться не БигТехом, а в академической среде (и Кларк пишет, как к этому идти)
_______________
Скорее всего, на «манифест» Кларка киты БигТеха отреагируют так же, как на роман Пелевина — не заметят или свысока покуражатся (как было с фильмом «Социальная дилемма»).
Что ж. Над манифестом компартии тоже куражились. Но для 1/7 части мира вышло только хуже. Сейчас же речь о всем мире.
________________________
Ваши шансы увидеть мои новые посты быстро уменьшатся до нуля, если вы не лайкаете, не комментируете и не делитесь в соцсетях.
#ИИ #ПЕЛЕВИН #ТРАНСГУМАНИЗМ