«Положение человека на уровне скотины доминирует в предсказаниях основных мыслителей. Поэтому надо выработать стратегию, в которой задача нужности человека будет важнее задачи сопоставления теорий старения и самых смелых экспериментов», – говорит президент Фонда «Наука за продление жизни» Михаил Батин, анализируя высказывания Брайана Джонсона, Яна Кульвейта и других экспертов в сфере ИИ.
Фрагменты расшифровки видеозаписи «Стратегия Брайана Джонсона» 08.02.2025 из ютуб-канала Михаила Батина «Трансгуманизм в далеком городе». Окончание.
«ИИ захватит культуру и государство»
Михаил Батин рассуждает, как сохранить человеческую уникальность в эпоху стремительного развития новых технологий:
– На эту тему высказывается Ян Кульвейт с соавторами в своей публикации «Постепенное отключение прав и возможностей». Это важная статья, в которой поднимается вопрос о том, что постепенно ИИ будет нас вытеснять. Ян Кульвейт довольно убедительно показывает, что в конце концов даже экономические решения будет принимать ИИ.
Интересы государства, экономических агентов будут все меньше расходиться с интересами людей, которых постепенно погрузят в своего рода наркоманию и лудоманию. Искусственный интеллект сломает дофаминовую цепочку у человека и будет обеспечивать систему вознаграждения: его мемы будут лучше, его культура будет лучше, он лучше напишет прозу и так далее. Ну сколько времени осталось до великого романа от искусственного интеллекта? Год? И всё, он заменит литературу. Сколько осталось до великих фильмов от ИИ? Два года? Уже сейчас ИИ пишет прекрасные обзоры, музыку, его мощь нарастает, количество патентов от ИИ увеличивается.
Произойдёт страшная вещь: концепт, взгляд на мир будет формироваться искусственным интеллектом. То есть он захватит и культуру, и государство. Человек уже будет не нужен. Это коснется людей абсолютно всех профессий, включая ученых, чья работа сегодня кажется незаменимой.
В протоколе Брайана Джонсона говорится: вот вам блюпринт, следуйте алгоритмам, они будут совершенствоваться, я вам их буду выдавать – ни о чем не думайте. Но про его блюпринт тоже есть замечание, что еще никто не доказал, что этот алгоритм – хороший. Брайан Джонсон движется в русле общей тенденции. Он просто говорит: «Вам будет хорошо, вам будет счастье».
Но это счастье такое… Люди окажутся на положении скотов. Скотина же ничего не решает, хотя ей вроде бы хорошо. И это ещё один аргумент в пользу того, что нужно заниматься повышением нужности человека.
Статья «Постепенное отключение прав и возможностей» – великая статья. Она очень хорошо и ясно описывает возможные угрозы со стороны ИИ. А вот по мнению Брайана Джонсона, эта позиция не угроза, а достижение.
Конечно, есть благостные идеи, что люди смогут заняться духовным развитием или ручным трудом вроде гончарного дела. Такая бессмысленная деятельность в искусстве, науке, но зато с большой патетикой. Но тотальную ненужность человека в мире ИИ уже сейчас видно.
Постепенно нарастает атомизация общества, одиночество, пандемия депрессий. Брайан Джонсон подтверждает: да, люди в депрессии, людям плохо, нужно им дать алгоритм. Позиция Брайана – «хорошо быть с алгоритмом». Мне кажется, он именно это подразумевает, когда говорит о саморазвитии. О каком саморазвитии идет речь, если искусственный интеллект все делает лучше? Куда ты разовьешься? Ты можешь что-то делать на 20% лучше, в два раза лучше, а ИИ то же самое – в два миллиона раз.
Я уверен, что однажды создадут сервисы, которые будут заниматься эмоциональной поддержкой – электронный друг и партнер, в том числе и сексуального характера. ИИ будет морально заботиться о человеке. Он будет лучшей подружкой или другом, эмоциональной поддержкой, лучшим коучем. Человеческие связи будут разрываться еще больше. Представляете, какая атомизация произойдет?
ИИ-агенты в любом случае будут заменять человеческий концепт и предлагать нам, может быть с помощью манипуляций, все лучшее и лучшее. Мы будем становиться рабами этого лучше, или, как говорится в статье «Постепенное исключение прав и возможностей», – скотом фактически.
Будет объявляться, что «все во имя человека», но никаких решений человек не сможет принять, потому что сложность этого общества, этой ситуации будет неподвластна человеческому разуму. Мы сейчас говорим даже не о каких-то суперискусственных интеллектах, которые познают Вселенную, а просто если существующие технологии чуть-чуть улучшатся.
Что может противостоять вытеснению человека ИИ?
То, что искусственные интеллекты будут разные. Мы все время рассматриваем ИИ как какой-то единый, а на самом деле они будут созданы по разным алгоритмам, исходя из разных интересов, обучены на разной дате.
Наша задача – противопоставить большому корпоративному ИИ коллективный интеллект, когда есть множество агентов, которые действуют в интересах человека. Это хоть какая-то альтернатива ИИ как сервису. Потому что здесь есть и деятельное участие, и поиск решений защиты культуры человека. Но этого нет в статье у Брайана Джонсона. В его концепции человек не нужен.
Выдержки из статьи Яна Кульвейта «Постепенное отключение прав и возможностей»
- «Во-первых, системы искусственного интеллекта могут превзойти людей, опередить их в конкуренции за важнейшие, скудные ресурсы – такие, как земля, энергия. Несмотря на то, что экономика в целом производит больше товаров и услуг, инфляция в этих основных ресурсах может сделать даже предметы первой необходимости все менее доступными для людей.
- Во-вторых, экономика может стать настолько оптимизированной для деятельности, ориентированной на ИИ, что ей не удастся поддерживать инфраструктурные цепочки поставок, которые имеют решающее значение для выживания человека. Рынки могут прекратить производство ресурсоемких человеческих товаров в пользу более прибыльной деятельности. Это может происходить постепенно и неравномерно, прежде чем сделать некоторые предметы первой необходимости фактически недоступными.
- В то же время, как и в случае экономики, в которой доминирует ИИ, познание может быть сопоставимо дешевым, и некоторые товары могут присутствовать в изобилии, например, развлечения в увлекательных виртуальных мирах, населенных ИИ-персонажами, или на...котики, облегчающие пребывание в приятном психологическом состоянии.
- Наконец, люди могут потерять способность осмысленно участвовать в принятии экономических решений на любом уровне. Финансовые рынки будут двигаться слишком быстро, чтобы люди могли взаимодействовать с ними и сложностью экономических систем, управляемых ИИ. Так же, как крупный рогатый скот на промышленной ферме, питаемый и размещаемый системами, которые они не понимают и не влияют на них, люди могут стать просто субъектами экономических сил, оптимизированных для целей, выходящих за рамки их понимания».
«Нужность человека – нетривиальная задача»
Идея бороться за концепт человека на сегодняшний день экономически несостоятельна. Нет какого-то продукта – нужность человека. Есть благотворительные проекты, которые несут эту философию, есть сообщества, есть клубы по интересам, но такого глобального продукта, где была бы заложена нужность человека, нет. Я не говорю, что это невозможно, но пока мне не понятно, как можно это сделать. Вот о чем сегодня стоит задуматься. Оценка всех идей идет через рынок. А у блюпринта и подобных вещей, тем более у ИИ, – экономика огромная.
Если люди экономически не нужны, то они вообще не нужны. Поэтому мы должны защищать концепт нужности ради выживания, ради продления жизни. Но сделать это можно, используя искусственный интеллект. Такой вот парадокс. Кстати, в конце статьи «Постепенное отключение прав и возможностей» написано: «Использованы такие-то чаты GPT».
А как вы думаете, что нас ждёт с развитием ИИ? Как противостоять вытеснению человека ИИ? Пишите в комментариях, нам интересно ваше мнение.
ТГ-канал «Трансгуманизм в далеком городе».
Читайте начало: «ИИ. Спасение от старения или угроза для человечества? Михаил Батин»
Подписывайтесь на наше сообщество в ВК: https://vk.com/zizndolshe и в Телеграме: https://t.me/zhizndolshe