67,4 тыс подписчиков

Искусственная эскалация

19 июля 202319 июл 2023

364

1 мин

TLDR — самый вероятный сценарий гибели земной цивилизации Ядерный риск и ИИ-риски, меркнут в сравнении с интегральным риском при их сочетании. Но это, увы, самый вероятный сценарий будущего для земной цивилизации, причем, не в отдаленном будущем, а в ближайшие годы. Такой сценарий называется TLDR: Threat (Угроза), Likelihood (Вероятность), Deadline (Дедлайн — крайний срок принятия решения), Recommendation (Рекомендация ИИ принимающему решение лицу с учетом TLD). В соответствии с этим сценарием будут приниматься все важнейшие решения в чрезвычайных ситуациях, когда ставки на кону велики. У сценария TLDR нет альтернатив (что бы ни говорили ученые, политики и военные), ибо он: Но у сценария TLDR есть и практически непреодолимый изъян — рано или поздно, он может запустить процесс неостановимой искусственной эскалации военного противостояния. Как это может выглядеть на практике на временном горизонте ближайших 10 лет, просто, но убедительно показано в 8-минутной короткометражке «Искусственн

TLDR — самый вероятный сценарий гибели земной цивилизации

Ядерный риск и ИИ-риски, меркнут в сравнении с интегральным риском при их сочетании. Но это, увы, самый вероятный сценарий будущего для земной цивилизации, причем, не в отдаленном будущем, а в ближайшие годы.

Такой сценарий называется TLDR: Threat (Угроза), Likelihood (Вероятность), Deadline (Дедлайн — крайний срок принятия решения), Recommendation (Рекомендация ИИ принимающему решение лицу с учетом TLD). В соответствии с этим сценарием будут приниматься все важнейшие решения в чрезвычайных ситуациях, когда ставки на кону велики.

У сценария TLDR нет альтернатив (что бы ни говорили ученые, политики и военные), ибо он:

качественно (по уровню анализа) и количественно (по скорости принятия решений) превосходит все иные мыслимые сценарии действий в ситуациях радикальной неопределенности, в которых «факты неточны, ценности спорны, ставки высоки, а решения срочны»;
и отвечает единственному сегодня неоспоримому требованию к технологиям — оставляет последнее решение за человеком.

Но у сценария TLDR есть и практически непреодолимый изъян — рано или поздно, он может запустить процесс неостановимой искусственной эскалации военного противостояния.

Как это может выглядеть на практике на временном горизонте ближайших 10 лет, просто, но убедительно показано в 8-минутной короткометражке «Искусственная эскалация», снятом Space Film & VFX для Института будущего жизни.

Этот ролик рекомендую посмотреть каждому. Он того стоит.

Кроме того:

Реальность TLDR-сценария признают весьма серьезные эксперты (см. Bulletin of the Atomic Scientist)
Насколько опасно использование ИИ в вооруженных конфликтах, я неоднократно рассказывал и писал (в том числе, о «проблеме 37-го хода военного ИИ» и «иллюзии контроля ИИ»)
Последствия глобального TLDR-сценария будут гибельны для цивилизации на Земле ( см. этот 4-х минутный ролик)

Перезвон Часов Судного дня запускается применением ядерного оружия. Но лишь в течение 20 сек этого «перезвона», часы еще можно остановить

Ни секундой позже.

#Вызовы21века #РискиИИ #Хриски

________________________________

Ваши шансы увидеть мои новые посты быстро уменьшатся до нуля, если вы не лайкаете, не комментируете и не делитесь в соцсетях