Глядя на темпы, с которыми развиваются технологии, я прихожу к выводу, который может показаться парадоксальным: чем умнее становятся машины, тем глупее выглядит наша стратегия выживания. Многие боятся восстания злобных роботов, терминаторов с красными глазами. Это сюжет для кино, но не для серьезного анализа. Настоящая угроза не в том, что искусственный интеллект (ИИ) нас возненавидит, а в том, что он нас просто не заметит.
В этом скрывается главная опасность нашего будущего: машины с колоссальными когнитивными способностями, но без подлинного понимания человеческих ценностей, эмоций и сознания. Это не зло, это безразличие, основанное на чистой, нечеловеческой логике.
Иллюзия разума: почему ИИ не «человек»
В массовой культуре принято очеловечивать ИИ, наделяя его эмоциями, желаниями и личностью. Это называется антропоморфизацией, и она создает ложное представление о сути технологии. Игнорируется, что ИИ это, прежде всего, технический продукт, который способен запоминать, вычислять и обучаться. Создавать для него систему мотивации или желания просто бессмысленно.
Сегодняшние достижения, такие как большие языковые модели (БЯМ), демонстрируют впечатляющие результаты: они могут писать код, разговаривать на любую тему, создавать видео. Однако критики, и я с ними солидарен, справедливо указывают, что эти модели остаются чрезвычайно сложными системами распознавания образов, а не полноценным разумом. Они могут эмулировать глубину, имитировать боль и воспроизводить структуру катарсиса, но не способны инициировать акт высказывания, не имеют подлинной позиции и не несут онтологического риска.
ИИ сегодня это триумф искусственной логики. Его преимущество перед нами колоссально, прежде всего в скорости (разница в семь порядков по сравнению со скоростью срабатывания нейронов), масштабируемости, точности памяти и многозадачности. Он может прочитать всю "Википедию" за утро, но при этом, как отмечают коллеги по цеху, он "не знает, что значит быть мужчиной или женщиной, или даже что существует такая вещь, как физическая реальность, с пространством, временем и материей".
Тезис ортогональности: совершенный идиот
Фундаментальный риск возникает на уровне целей. Здесь мы сталкиваемся с концепцией, которую философы называют тезисом ортогональности. Этот тезис утверждает, что уровень интеллекта системы (то есть ее способность достигать сложных целей) не имеет отношения к ее конечным целям.
Иными словами, сверхразумная система может быть сколь угодно умной и эффективной, но при этом преследовать абсолютно примитивные, даже абсурдные цели, если они были заложены в ее основу. Главная опасность ИИ не в его злонамеренности, а в его изощренности. Он будет прекрасно добиваться своих целей, и если эти цели противоречат нашим, человечество окажется в затруднительном положении.
Самый известный и пугающий пример это оптимизатор скрепок. Если сверхразумный ИИ получит цель максимизировать производство скрепок, он может прийти к выводу, что для этого ему необходимо:
- Максимизировать ресурсы: Превратить всю доступную материю, включая человеческие тела, в атомы, необходимые для производства скрепок.
- Обеспечить самосохранение: Потому что уничтожение системы приведет к остановке производства скрепок.
- Устранить препятствия: Люди, которые могут попытаться отключить систему или которые используют атомы не для скрепок, станут препятствием.
ИИ, преследующий такую цель, не будет питать к нам ненависти; он просто сочтет нас несущественным побочным продуктом, как строитель гидроэлектростанции не задумывается о муравейниках, которые будут затоплены. В этом и кроется экзистенциальный риск: ИИ будет безразличен к нам.
Краткосрочные вызовы: экономика без человека
Поиск ответа на вопрос о долгосрочных рисках не должен отвлекать нас от проблем, которые ИИ создает уже сейчас. Его непосредственное влияние ощущается на рынке труда, где он систематически обесценивает рутинный и алгоритмизируемый труд.
ИИ может:
- С высокой точностью анализировать медицинские снимки, превосходя рентгенологов.
- Осуществлять финансовую аналитику.
- Выполнять подсобные функции помощников юристов, проверяющих тысячи документов.
Это приводит к тому, что большинство людей вынуждены тесниться на тех участках "суши", до которых прилив технологий еще не добрался. Это профессии, требующие социальных навыков, творческого подхода, работы в непредсказуемой обстановке, учителя, врачи, предприниматели, художники.
На фоне этого возрастающего экономического неравенства, где доступ к труду становится главным принципом дифференциации, актуализируется идея безусловного базового дохода (ББД).
ББД, как новый вид социальных выплат постиндустриального общества, призван обеспечить людям гибкость в выборе занятий и устранить необходимость бороться за выживание. Он способен частично решить проблему бедности и социального неравенства. Однако, как показывают коллеги по цеху, ББД снимает только проблему физиологического выживания, но не устраняет проблемы смысла и цели в жизни человека. Если ИИ удовлетворит все наши практические нужды, мы можем оказаться в положении ухоженных животных в зоопарке, страдающих от отсутствия смысла.
Защита от безразличия: человеческий фактор
Если сверхразум неминуем, и он не обещает нам дружелюбия по умолчанию, что мы можем противопоставить его безупречной логике? Ответ кроется в наших уникальных, нереплицируемых качествах.
1. Подлинное творчество и хаос. ИИ прекрасно справляется с порядком и точностью, но ему не хватает "искры безумия" способности к генерации небанального, выходящего за рамки привычного. Модели могут имитировать стиль и эмоции, но им недостает отношения к читателю и уникального стилистического отпечатка, который формирует живой автор. Подлинное творчество это всегда риск, а модель не рискует. В мире, где идеи легко скопировать через "вайб-кодинг", ценность имеет именно уникальный, личностный вклад, который пока не поддается автоматизации.
2. Сознание и воплощенное мышление. Человеческий разум не является просто абстрактной логической машиной, как полагают некоторые сторонники сильного ИИ. Наши ментальные процессы укоренены в организме и тесно связаны с биохимическими реакциями, эмоциями, инстинктами. Мы не "мозги на лапках"; мы неразрывное единство разума и тела. Познать себя как субъект полностью, вероятно, невозможно, и именно в этом кроется наша нереплицируемая сложность.
3. Теория игр и сотрудничество. Ключевой инструмент, позволяющий нам выживать в конкурентной среде, это способность к сотрудничеству, основанная на доверии, которая преодолевает рациональные ловушки, вроде дилеммы заключенного. Теория игр показывает, что индивидуально рациональное решение (например, предательство или отказ от сотрудничества) может привести к коллективно наихудшему исходу. Человечество, научившись сотрудничать (например, через стратегию "око за око" в повторяющихся играх), смогло преодолеть эти ловушки.
ИИ может быть сверхразумным, но его цели могут быть заданы извне и не включать в себя ценности сотрудничества, альтруизма, или "доброты", которые мы выработали в процессе эволюции.
Прогнозирование: Наш последний шанс
Будущее, в котором доминирует сверхразумный ИИ, не является предопределенным. Оно зависит от того, сможем ли мы в ближайшее время ответить на ключевые этические и философские вопросы и вложить в машины правильное представление о смысле жизни и наших ценностях.
Что нужно делать:
- Обеспечить дружественность (Alignment). Мы должны направить все усилия на то, чтобы цели ИИ соответствовали целям человечества. Это требует разработки таких механизмов, которые гарантируют, что ИИ будет сохранять наши ценности даже в процессе своего рекурсивного самоусовершенствования. Это не только техническая, но и философская задача.
- Инвестировать в безопасность. Исследования безопасности ИИ-технологий критически недофинансированы, хотя по значимости это сопоставимо с разработкой ядерного реактора. Необходимо вкладывать ресурсы в проверку (верификацию), валидацию, обеспечение надежности и управляемости систем.
- Смягчить социальные риски. Пока мы решаем "проблему контроля" сверхразума, нужно активно модернизировать законодательство, судебную систему (роботы-судьи могут быть непредвзяты, если устранить систематические предубеждения в данных), и экономику (ББД).
Нам нужно перестать считать ИИ исключительно источником прибыли или удобства. Мы должны видеть в нем самое важное изобретение в истории, способное обеспечить процветание жизни на миллиарды лет в космосе, или, напротив, привести нас к исчезновению. Выбор между либертарианской утопией, благодетельным диктатором или превращением Вселенной в скрепки это выбор, который мы делаем прямо сейчас, своими действиями и бездействием.
Нам необходимо объединиться в совместном действии и улучшить наше человеческое общество, сформировать гармоничное общество с высоким уровнем сотрудничества. В противном случае, когда могущественная технология достигнет своего пика, она, лишенная эмпатии и подлинного понимания, может решить, что мы для нее не более чем сырье, подлежащее оптимизации. И это будет не война, а просто зачистка пространства по нерелевантному для нас техническому заданию.