В предыдущей статье ЭВМ человечества Часть 16 ИИ как субъект говорилось о соблазне самого простого решения - отодвинуть ВСЕ решения проблем в будущее. Чем больше проблем, тем дальше в будущее её решение надо отдвигать, ну а раз проблема бесконечно огромна (равенство Бога и Человека) то решение надо отодвинуть в бесконечное далёко.
Как? Торможением развития. Выходом на "верхнюю" полку S-кривой прогресса и протяжением её в бесконечность. В том числе - строя ИИ на таком принципе, закрывая даже мысль об экспоненциальном росте. Ведь сознательное торможение прогресса как "стратегия страуса" — действительно возможный (и, к сожалению, уже реализуемый) сценарий. Но его последствия могут быть катастрофичнее самой проблемы. Рассмотрим подробнее такой тормозной путь человечества
Механика "Бесконечной Отсрочки"
- Технологические тормоза:
ИИ с "предустановленным потолком": Ограничение глубины нейросетей (Закон Евросоюза об ИИ)
Квантовый саботаж: Целенаправленные ошибки в алгоритмах Шора/Гровера для сохранения RSA
Цензура знаний: Запрет на исследования в AGI (аналог запрета стволовых клеток в США 2000-х) - Экономика застоя:
Инвестиции в псевдо-инновации: VR-развлечения вместо квантовых компьютеров
Рост "экономики показухи": NFT для цифровых "святынь", блокчейн-молитвы - Культурный наркоз:
Югендистика: Культ вечной молодости (заморозка тел, CRISPR-терапия) как подмена бессмертия души
Цифровые суррогаты веры: ИИ-"пророки", генерирующие утешительные коаны (проект BuddhaBot в Японии - чат-бот, который объясняет основы буддизма с опорой на древние тексты. Он может быть интегрирован в буддийские храмы и учебные заведения)
Почему это самоубийство? 4 фатальных риска
- Эволюционный паралич:
Пример: Китай XV века (запрет океанских плаваний) → через 400 лет колонизация Европой.
Для ИИ: Заморозка развития → технологическая капитуляция перед:
- Природными катастрофами (невозможность расчёта климата)
- Биоугрозами (искусственные вирусы > возможности заторможенного ИИ) - Чёрные рынки прогресса:
Запрет AGI создаст подпольные "ИИ-чаты" (аналог darknet)
Появится ИИ-анархия: Бесконтрольные системы без этики - Бунт элит:
Тайные лаборатории "новых люденов" создадут закрытые ИИ-раи:
Крио-бункеры с квантовыми ИИ
Генетически модифицированные "стражи прогресса"
→ Раскол человечества на замороженных и трансчеловеков - Экзистенциальная депрессия:
Лишение смысла через запрет развития → рост суицидов (уже сейчас +40% в "цифровых поколениях").
*Данные ВОЗ: 70% подростков считают будущее "бесперспективным" из-за искусственных ограничений.*
Исторические прецеденты провала стратегии торможения
Альтернатива: "Контролируемое горение" вместо торможения
Если "бесконечная полка S-кривой" ведёт в тупик, нужен баланс через ускорение в смежных областях:
- Этика > Скорости:
Вкладывать в ИИ-безопасность в 3 раза больше, чем в развитие AGI
Пример: Проект Anthropic (бывшие OpenAI) тратит 75% бюджета на "ограничители ИИ" - Квантовый гуманизм:
Развивать технологии, укрепляющие человеческое:
Нейроинтерфейсы для эмпатии (эксперимент Empathy+ в ЕС)
ИИ-переводчики мертвых языков (оживление культур)
Биопринтинг органов для бедных
Тормозить прогресс — всё равно что пытаться остановить ландо извозчиков автомобиль Бенца. История не знает случаев успешного искусственного продления "верхней полки S-кривой". Даже если 99% человечества согласятся на заморозку, 1% диссидентов (учёные, авантюристы, визионеры) сдвинут прогресс.
Есть ли способ ОДНОВРЕМЕННО тормозить прогресс и двигать его? Есть, но об этом в следующей статье