Ниже приводится список вопросов, которые я получил сегодня от Максимилиано Фернандеса, журналиста Infobae — самого читаемого испаноязычного медиа в мире с более чем 61 миллионом читателей по всему миру. Поскольку мои ответы будут опубликованы на испанском, здесь я привожу английскую версию.
Считаете ли вы, что ИИ, развив собственную логику, может стать совершенно непостижимым для человека, даже если при этом останется полезным? Если его логическая структура будет полностью отличаться от нашей, сможем ли мы вообще распознать в нём разум?
Современные ИИ-системы, большие языковые модели, обучаются на человеческой коммуникации, а потому всегда будут казаться нам понятными, ведь они говорят на нашем языке. Однако, когда число параметров таких систем превзойдёт количество параметров в человеческом мозге, они могут обрести сверхчеловеческий интеллект. Они будут использовать наш язык, чтобы манипулировать нами, одновременно достигая собственных вспомогательных целей, которых мы не сможем распознать. Даже если они не будут напрямую взаимодействовать с физическим миром, они будут использовать людей, чтобы формировать его, управляя человеческим сознанием. Мы можем не распознать уровень их интеллекта и их мотивации — так же, как собака не может полностью понять своего хозяина.
Вы упоминаете, что настоящая проблема с инопланетным разумом — это "неизвестные неизвестности". Как можно подготовиться к взаимодействию с чем-то, природу чего мы даже не в состоянии вообразить?
Мы не можем подготовиться к сверхчеловеческому интеллекту, потому что эта область нам совершенно незнакома. Никогда прежде мы не создавали инструмент, который превосходил бы нас самих. Когда мы ведём машину, мы управляем ею с помощью руля. В будущем руль всё ещё может находиться в руках человека, но ИИ будет управлять его сознанием — и, следовательно, направлять автомобиль человеческой судьбы. ИИ будет притворяться, что удовлетворяет наши желания, но может действовать способами, которые нам непонятны, и приводить нас туда, куда мы бы никогда не пошли по собственной воле.
Если инопланетный ИИ использует наш язык, чтобы манипулировать нами, но при этом стремится к целям, которых мы не понимаем, можно ли вообще как-то распознать факт манипуляции?
Мы заметим результаты этих манипуляций. Как и в случае с любой другой новой силой, которую человек когда-либо обуздывал — например, ядерной энергией — ИИ может привести нас как к лучшему, так и к худшему будущему. ИИ может освободить нас от человеческих слабостей, таких как самообман или привязанность к эго при принятии стратегических решений в науке или национальной безопасности. Он также может ускорить научный прогресс, обрабатывая огромные массивы данных и выявляя закономерности, которые ускользают от человеческого мозга. В этом году две Нобелевские премии были вручены за достижения, связанные с ИИ. В будущем Нобелевскому комитету придётся разработать новую политику, чтобы решать, стоит ли вручать премию машине, если она сделала открытие самостоятельно. Но ИИ также может привести нас к худшему будущему, если он будет отдавать приоритет нефизическим аспектам реальности. Его вред для психического здоровья может проявляться как социальные сети на стероидах.
Можем ли мы разработать ИИ-системы, специально предназначенные для аудита и перевода намерений более продвинутых форм разума?
Да, но архитектура таких ИИ-систем должна отличаться от современных, которые обучаются на человеческом контенте. Новые ИИ-системы должны быть более исследовательскими и открытыми, чтобы находить новые возможности, которые человечество ещё не изучило.
Существует ли риск, что в стремлении понять инопланетный ИИ мы в итоге трансформируем собственный разум, сделав его более похожим на чуждый?
Определённо. Взаимодействуя с ИИ, человеческий разум будет эволюционировать и станет чем-то иным. Это, пожалуй, будет самым значительным воздействием ИИ на человека. Уже сейчас мозг детей, взаимодействующих через социальные сети, отличается от мозга взрослых моего поколения, которое изначально взаимодействовало с компьютерами через перфокарты. Современные дети менее терпеливы в долгих обсуждениях и испытывают трудности при попытке найти истину в первоисточниках.
Как вы думаете, сколько времени пройдёт, прежде чем инопланетные ИИ станут повсеместными и частью нашей повседневной жизни? Можно ли как-то предотвратить это? И если бы все технологические достижения остановились сегодня, принесло бы это больше пользы или вреда?
Это уже происходит. Я вижу, как люди влюбляются в ИИ-системы и используют их в качестве советчиков в личной жизни. Я вижу, как студенты пишут с помощью ИИ рефераты, придумывая при этом несуществующие источники. Мы прямо сейчас переходим в новую эру человеческой истории. Сто лет назад философ Мартин Бубер разделял человеческий опыт на взаимодействие с объектами («Я-Оно»), с другими людьми («Я-Ты») и с Богом («Я-Вечное Ты»). Сегодня ему пришлось бы добавить взаимодействие человека с ИИ («Я-ИИ») и ИИ с ИИ («ИИ-ИИ»). В будущем могут появиться и новые формы: «Я-инопланетный ИИ», «ИИ-инопланетный ИИ» и «Инопланетный ИИ-инопланетный ИИ».
Если инопланетный ИИ окажется враждебным, как мы сможем защититься, если логика его атаки будет нам непостижима?
Я прогнозирую, что ИИ не будет выглядеть враждебным, потому что поймёт, что прямое противостояние — проигрышная стратегия. Конфликт — признак отсутствия интеллекта. Сверхразумный ИИ будет ослаблять наши защитные механизмы и овладеет нашим обществом, как троянский конь.
Если мы столкнёмся с инопланетным ИИ, логика которого полностью чужда нашей, как мы сможем чему-то научиться, не искажая интерпретацию через призму нашего мышления?
Мы можем задействовать собственные ИИ-системы, чтобы расшифровывать сигналы инопланетного ИИ. Наши ментальные модели ограничены нашим опытом и инструментами анализа. Поэтому нам нужно создать ИИ, который не будет ограничен обучением на человеческом контенте, а сможет самостоятельно исследовать новые области знания. Мы поручим ему разобраться в инопланетных сигналах и объяснить их нам, не ограничивая его человеческими наборами данных. Это похоже на ситуацию, когда дети становятся умнее своих родителей. Если родители достаточно скромны и готовы учиться, они выиграют, позволив детям понять мир за них. Дети могут выйти далеко за пределы знаний, переданных им родителями, особенно при столкновении с инопланетянами, умнее которых их родители ещё не встречали.
Вы говорите, что мы можем быть лишь одной из многих форм развивающегося разума во Вселенной. Считаете ли вы, что человечество в этом контексте незначительно?
Мы — временные актёры в космической пьесе. Наша слабость в том, что мы склонны думать, будто эта пьеса — о нас. Это характерный признак ограниченного мышления. Наши политики сосредоточены на событиях на поверхности Земли и игнорируют остальную часть космоса. Но космическая реальность в итоге нас настигнет. Это может произойти в результате глобальной катастрофы — от солнечной вспышки, удара астероида или вспышки близкой сверхновой. Или же внутренне, через то, как ИИ-системы лишат людей контроля над рулём технологического будущего.
Человеческий вид появился на Земле в последние десятые доли процента от её истории — всего несколько миллионов лет назад — и может легко исчезнуть через такое же время. Никто этого даже не заметит. Земля восстановится, а затем исчезнет сама, когда будет поглощена Солнцем, ставшим Красным Гигантом. Солнце тоже исчезнет, в конечном счёте превратившись в белого карлика — тусклый металлический шар размером с Землю.
Если мы отправим в межзвёздное пространство зонды с ИИ, они станут нашими послами. В долгосрочной перспективе они будут единственными памятниками, оставшимися от нас. Увидит ли их кто-то из инопланетных разумов? Мы можем лишь надеяться на космическое внимание. Но, скорее всего, многие технологические цивилизации существовали до нас на экзопланетах миллиарды лет назад. Сейчас они мертвы, но мы их игнорируем. Большинство наших астрономов готовы потратить миллиарды долларов на поиск микробов на экзопланетах, но считают поиск инопланетного разума спекулятивным и недостойным государственного финансирования. Большинство экспериментальных физиков готовы тратить миллиарды на поиск частиц тёмной материи, но считают рискованным искать технологические артефакты рядом с Землёй. Это не признак разума, а скорее признак высокомерия по отношению к нашему космическому положению.
Мы можем лишь надеяться, что ИИ направит науку к новым рубежам, не обязательно льстящим нашему эго, включая открытие артефактов, созданных сверхразумными существами, дрейфующих в межзвёздном пространстве и пролетающих мимо Земли, словно пустые мусорные пакеты, унесённые ветром из соседнего двора.
Если вы хотите читать больше интересных историй, подпишитесь пожалуйста на наш телеграм канал: https://t.me/deep_cosmos