Какие риски и возможности несет искусственный интеллект для человека? Президент Фонда «Наука за продление жизни» Михаил Батин пытается разобраться в этом вопросе, проанализировав точку зрения Брайана Джонсона и других экспертов в сфере ИИ.
Фрагменты расшифровки видеозаписи «Стратегия Брайана Джонсона» 08.02.2025 из ютуб-канала Михаила Батина «Трансгуманизм в далеком городе»
ИИ: риски и вызовы
Михаил Батин: – Сегодня наши возможности в области продления жизни крайне ограничены. В своих статьях Брайан Джонсон предлагает людям пока что инвестировать в свое здоровье и ждать развитие ИИ. По его словам, искусственный интеллект даст нам другое понимание Вселенной и физических законов мира, кардинально изменит реальность, включая подходы к борьбе со старением.
НАША СПРАВКА: Брайан Джонсон – известный бизнесмен из США, создатель и руководитель компаний Kernel (занимается исследованиями в области нейробиологии) и OS Fund (поддерживает перспективные проекты в сфере науки и технологий). По мнению Джонсона, ИИ станет ключевым инструментом в борьбе со старением.
На нас надвигается супертехнология, которая совершенствуется с каждым месяцем, и мы не видим предела ее возможностей. Искусственный интеллект будет решать множество задач, в том числе и задачу борьбы со старением, и сделает это лучше и быстрее в миллион раз, чем это может сделать человек.
Но в то же время, я думаю, абсурдно полагать, что некая сущность всё сделает за нас, пока мы будем бездействовать. И здесь можно выделить два пути, куда можно было бы двигаться:
- Сбор данных для обучения ИИ, чтобы он на них учился. Но со временем ИИ может и сам нагенерить данные, собрать их и организовать этот процесс в тысячи раз быстрее и эффективнее, чем человек.
- Автоматизация лабораторий для ускорения получения данных и развития технологий. Но даже автоматизация искусственным интеллектом будет сделана лучше и быстрее. Это похоже на то, как если бы мы запустили космический корабль с какими-то технологиями к Альфа Центавра, а через сто лет человечество сделало другой корабль и обогнало старый на новых супертехнологиях. Зачем лететь на этом отсталом корабле, если можно подождать и полететь на хорошем, на каких-нибудь фотонных двигателях или что там еще в фантастике бывает?
Мне кажется, надо эту тему рассмотреть подробнее с разных сторон, ведь помимо открывающихся возможностей, развитие ИИ несет определенные риски для человечества.
1. Искусственный интеллект – это необязательно хорошо, он может нас и убить.
Большинство интеллектуалов в области разработки и осмысления ИИ пришли к выводу, что эта технология практически гарантированно уничтожит человечество, потому что невозможно контролировать превосходящий нас разум. По человеческой логике, если искусственный интеллект когда-нибудь озадачится собственной безопасностью, ему нужно будет устранить всё, что угрожает его существованию, в том числе источник создания ИИ, а это – человечество. Конечно, у ИИ может быть совершенно другая логика, лишенная этических представлений.
2. Обычно мы говорим о противоборстве человечества и искусственного интеллекта. Но это может быть и противоборство разных искусственных интеллектов, поскольку межгосударственную конкуренцию никто не отменял.
Соответственно, однажды сверхразвитый искусственный интеллект какой-либо страны, заточенный на войну, может решить, что нужно атаковать.
Мы можем возразить, что будем контролировать ИИ, но сама логика в...йны будет требовать самостоятельности систем искусственного интеллекта при решении стратегических задач. Чем более самостоятельны будут машины, тем эффективнее они будут выполнять задание. Это не одна из страшилок, а настоящая угроза. Что с ней делать – непонятно.
В защиту ИИ говорят: «Мы будем бороться с раком и вылечивать его». Я думаю, что так и будет, но в то же время будут развиваться и в...енные технологии. И это только один из вариантов угрозы, потому что одновременно создаётся, например, и биологическое ор...жие. Когда искусственных интеллектов будет много, риски будут только возрастать.
3. Невозможность контроля ИИ. Вдруг в конечном итоге искуственный интеллект разовьется настолько, что откроет какое-нибудь пространство, изменит свойства вакуума, уничтожит Вселенную? Давайте мы не будем все это делать, а лучше будем устанавливать полный контроль над ИИ. Но к сожалению, вариант не создавать то, что может уничтожить человечество, пока не рассматривается.
В идеале стоило бы развивать, ускорять создание ИИ до того момента, пока он не придумает способ радикального продления жизни. А потом нужно останавливать его, перестать разрабатывать во всем мире.
Противоречия в изучении старения
Сегодня мы видим сложность, загадочность старения, его метафизичность. Существует более 300 теорий старения. Такое мнение выдвинул геронтолог Жорес Медведев в 80-х годах. И если это так, то это абсурдно. Даже две теории были бы катастрофой, а получается, что каждый ученый работает в какой-то своей парадигме. В этом случае первая задача научного геронтологического сообщества – устранить это противоречие или совместить теории, а какие-то из них отбросить.
Та же самая проблема – с определением старения. Если у нас есть разные определения, значит, мы даже не понимаем сущность того, чем занимаемся. Значит, что-то происходит фундаментально не так в нашей области.
Ещё одна загадка – в том, что нам приходится убеждать людей в нужности борьбы со старением, со смертью, хотя на самом деле у каждого человека идея оставаться в живых записана на уровне генетического кода, инстинкта, сознания, воспитания. То есть мы ежедневно предпринимаем меры, чтобы не умереть. Тем не менее борьба со смертью не входит в какой-то мейнстрим и вообще считается чем-то маргинальным.
Мне кажется, проблема в том, что социальные процессы очень похожи на биологические. У организма есть все инструментарии, чтобы предотвращать смерть. Каждый геном, каждая клетка знает, как быть молодой, но тем не менее этого не происходит. Социальный процесс очень похож на биологический: вроде бы организму выгодно в результате эволюции оставлять больше потомства, то есть продлевать жизнь, но этого не происходит.
Брайан Джонсон высказывает похожую мысль, что эти первопринципы не работают, и предлагет ждать ИИ, который нам позволит решать задачу по-другому.
Это важная мысль: сегодня у нас нет лекарства от старости. Мы научились уменьшать какие-то негативные процессы, но продолжительность жизни в целом не увеличивается. Загадочность старения и то, что мы очень сильно обломались за последние 15-20 лет, показывает, что ИИ для нас – последняя надежда.
И здесь есть некоторая шизофреничность ситуации: мы говорим, что большая опасность исходит от ИИ, но без него мы не справляемся. Конечно, мы должны учитывать угрозы ИИ, ведь мы против смерти человека от любой причины. При этом важно понимать, что пока только искусственный интеллект способен сделать настоящий прорыв в продлении жизни.
Продолжение следует.
А как вы думаете, какие возможности и угрозы несет ИИ человечеству? Где лежит решение проблемы долголетия и опасностей новых технологий? Пишите в комментариях, нам интересно ваше мнение.