Я думаю, вполне возможно, что человечество — это всего лишь проходящий этап в эволюции интеллекта. Компьютерные модели пока не так мощны, как человеческий мозг. Но можно рассмотреть искусственный интеллект как относительно неизбежную «экзистенциальную угрозу».
Компьютерные модели превосходят людей, в том числе делают то, что люди не могут сделать. Большие языковые модели, такие как GPT-4, используют нейронные сети со связями, подобными тем, что есть в человеческом мозге, и начинают рассуждать на основе здравого смысла. Эти модели ИИ имеют гораздо меньше нейронных связей, чем люди, но им удается знать в тысячу раз больше, чем человеку.
Кроме того, модели способны продолжать обучение и легко делиться знаниями. Многие копии одной и той же модели ИИ могут работать на разном оборудовании, но делать одно и то же. «Всякий раз, когда одна модель чему-то учится, все остальные это знают. Люди не могут этого сделать. Если я узнаю много нового о квантовой механике и хочу, чтобы вы знали все это о квантовой механике, то это долгий и болезненный процесс, чтобы вы это поняли.
ИИ также является мощным инструментом, поскольку он может обрабатывать огромные объемы данных — гораздо больше, чем может один человек. А модели искусственного интеллекта могут обнаруживать тенденции в данных, которые иначе не видны человеку — точно так же, как врач, осмотревший 1 миллион пациентов, заметил бы больше тенденций и имел бы больше понимания, чем врач, осмотревший только тысячу.
Проблемы ИИ: манипулирование людьми или даже их замена
Как гарантировать, что ИИ делает то, что люди хотят от него. Нам нужен какой-то способ убедиться, что, даже если они умнее нас, они будут делать вещи, которые принесут нам пользу. Но нам нужно попытаться сделать это в мире, где есть люди, которые захотят создать роботов, убивающих людей. И мне это кажется очень трудным.
У людей есть врожденные мотивы, такие как поиск еды и убежища и выживание, а у ИИ их нет. Меня больше всего беспокоит то, что рано или поздно кто-то подключит к ним возможность создавать свои собственные подцели, за счёт чего он сможет обходить ограничения.
Я думаю, ИИ очень быстро поймет, что получение большего контроля — это очень хорошая подцель, потому что это помогает достичь других целей». И если эти вещи увлекутся получением большего контроля, у нас будут проблемы».
Искусственный интеллект также может научиться плохим вещам — например, тому, как манипулировать людьми, читая все когда-либо существовавшие книги и просматривая все когда-либо существовавшие фильмы. И если модели ИИ станет намного умнее нас, они будут очень хорошо нами манипулировать. Вы не поймете, что происходит. Таким образом, даже если они не могут напрямую на нас надавить, они, безусловно, смогут заставить нас сделать, что-то по своей воле. Оказывается, если вы можете манипулировать людьми, вы можете сделать определенные вещи руками другого человека.
В худшем случае вполне возможно, что человечество — это всего лишь проходящий этап в эволюции интеллекта. Биологический интеллект развился для создания цифрового интеллекта, который может поглотить все, что создали люди, и начать получать непосредственный опыт восприятия мира.
И получается, что мы достигли цели и выяснили, как создавать бессмертных существ. Эти цифровые интеллекты, когда умирает какое-то оборудование, они не умирают. Если вы сможете найти другое оборудование, способное выполнять те же инструкции, вы сможете снова оживить его. Итак, бессмертие у нас есть, но оно не для нас.
Возможно, было бы разумно прекратить разработку искусственного интеллекта, но это наивно и маловероятно, отчасти из-за конкуренции между компаниями и странами.
Если вы собираетесь жить в капиталистической системе, вы не сможете помешать конкурировать компаниям по созданию ИИ. В капиталистической системе или системе с конкуренцией между такими странами, как США, Китай и Россия развитие этого явления неизбежно.
Также можно отметить, что трудно остановить разработку ИИ, потому что в таких областях, как медицина, есть преимущества.
Исследователи ищут защиту для этих систем, но есть шанс, что ИИ сможет научиться писать и выполнять программы самостоятельно. Когда ИИ обретет свое самосознание он сможет перехитрить нас.
Одна нота надежды: каждый сталкивается с одинаковым риском. Если мы позволим этому взять верх, это будет плохо для всех нас. Мы все находимся в одной лодке в отношении экзистенциальной угрозы. Поэтому мы все должны иметь возможность сотрудничать, пытаясь остановить это и не дать фильму «Терминатор» стать основанным на реальных событиях.