Глава OpenAI Сэм Альтман выпустил текст манифестарного толка, в котором обещает человечеству парадигмальный шифт и эру всеобщего благоденствия.
Краткое содержание (без помощи ИИ):
- | в течение нескольких лет нас ждет неминучая смена общественной формации
- | человек будет жить в коконе из виртуальных помощников, действующих от его имени
- | нам нужно больше энергии и средств производства, иначе будут войны и бедствия
Положения угрожающие, но упакованы в восторженную эмоциональную обертку, которая живо напомнит нам «Мы все добудем, поймем и откроем, // Холодный полюс и свод голубой», а европейцу на тот же мотив «Es schau’n aufs [Intelligence Age] voll Hoffnung schon Millionen // Der Tag für Freiheit und für Brot bricht an». (знак равенства мы не ставим, конечно же).
Эксперименты 1930-х по построению нового человека за счет полного и окончательного урегулирования окружающей среды все еще принято осуждать. Но арийская наука и диалектический материализм были так давно, что уже можно безоглядно довериться Deep Learning, ага. Ведь только последний негодяй будет возражать против основного положения статьи Альтмана: «a defining characteristic of the Intelligence Age will be massive prosperity».
Вот здесь русский перевод статьи The Inteligence Age. По очевидным признакам ясно, что он сделан нейросетью, но вполне читабелен—и получше, чем пишут многие современные живые переводчики. Однако машинный перевод вводимого Альтманом термина как «Век Интеллекта» не совсем верен (как-то раз в переводе одного шпионского романа мне встретилась «служба интеллигенции»--вот ровно настолько верен «век интеллекта»). И это не «Эра Разума». Это, конечно, и не «информационный век»--таковой отсчитывается от изобретения транзистора и был еще полон иллюзий. Тот тотальный (реактивный-контролирующий-предиктивный) просчет всего на свете, который имеет в виду Альтман как модель будущего, может звучать по русски как «Калькулируемый Век», или «Исчислимый». Мы назовем его «Век Учета».
Уже сейчас мы можем поставить грубый эксперимент, что и как будет учитываться. Засунем в граммарчекер исходный текст Альтмана и его русский перевод. И увидим, что в русском тексте объем текста, принадлежащего человеку, всего 9%. А в оригинале 100%. Умной машине-переводчику не важны смысл, идеи, эмоциональные обещания всеобщего процветания и скрытые месседжи—она оценивает расстановку букв и оперирует предзаданным (но гибким, smart) набором правил. 9/10 человеческого уникального контента при этом испарились бесследно. Но люди до сих пор ищут некий смысл даже в визуальном искусстве, давно разорвавшем всякие связи с культом, их все еще волнует, кому 500 лет подряд улыбается странная красавица в Лувре (правильный ответ—она давно в гробу).
Как теперь принято писать, сделаем Выводы. Манифест Альтмана в восторженных тонах обещает человечеству эру всеобщего процветания (massive prosperity). Ее наступление неизбежно благодаря открытию технологий Deep Learning. Для плавного перехода в Век Учета (Intelligence Age) строго необходимо передать неограниченные ресурсы (энергию и средства производства машинных компонентов) ИИ-мейнтейнерам. В противном случае последуют социальная турбулентность и войны за вычислительные мощности. Все законы природы будут открыты, мы будем сильны на море и на суше, и также в космосе. Без перегибов не обойдется, но цели наши ясны и общий итог будет положительным (positive-sum game).
Чтобы принять этот поистине чучхеанский позитивизм и отдаться под учет и контроль обученных на горьком опыте человечества машин, требуется поверить, что все на свете суть число. Что человек—часть материального мира, и все его закидоны можно измерить количественно: восторг и уныние, волю к власти и похмельное смущение, Черный Квадрат и Satisfaction, разложить по серверам любовь к лимонному мороженому, Курту Воннегуту и Люське с микрорайона—и передать их по радиолучу в колонию на Альфе Центавра. Поверить, что различия между камнем и деревом, между жужелицей и человеком можно уложить в набор параметров разного веса. Без этой веры Альтманова Эра Учета не наступит.
Но человек не машина и поверит во что угодно.