Вчера CEO Anthropic Дарио Амодеи опубликовал эссе "Подростковый возраст технологий".
Много интересных мыслей, много спорных.
Так часто бывает, что прочитав какой-либо материал, хочется обсудить его с кем-то, увидеть то, что с первого взгляда незаметно или, если сами пишем текст - сделать его более качественным, аргументированным и интересным для аудитории.
По ссылке 15 промптов, которые можно использовать в любой нейросети для более глубокого анализа материалов.
Для эссе Дарио очень хорошо подходит промпт "Стресс-тест допущений" под номером 5:
Вскрой допущения этого аргумента:
Явные — которые автор называет
Неявные — которые подразумеваются
Для каждого допущения оцени хрупкость: низкая / средняя / критическая.
Для критических: что произойдёт с выводом, если допущение неверно?
Запускаем промпт сразу в Claude, ChatGPT и Gemini и после просим сделать общий вывод по результатам работы всех трех моделей.
Итог:
Аргументация Дарио Амодеи — это «карточный домик» с очень высокими ставками. Она внутренне непротиворечива, но хрупка.
Если хотя бы одно из ключевых условий не сработает (прогресс замедлится, конституция не удержит сверхразум, демократии станут тираниями или биооружие окажется сложным в производстве), то предложенная им стратегия не просто бесполезна, а потенциально вредна (разрушение экономики, геополитическая эскалация, ложное чувство безопасности).
Эссе — это не прогноз, а ультиматум: «Поверьте в эти допущения, иначе мы все умрем (или упустим рай)».
А мой вывод такой - мы с вами входим в фазу, когда затраты на ИИ всех участников гонки выросли настолько, что они уже не смогут окупиться и каждый бросается в спасение себя и обоснование почему именно его концепция будущего единственно верная и заслуживает поддержки.
Продолжаем наблюдать и учиться "думать глубже".