Настает время виртуальности, неотличимой от реальности. В широком смысле — здесь и непроверяемые фейковые новости, и миры виртуальной реальности с полной реалистичностью. По сути это означает, что нам нужно пересмотреть понятие реальности.
Пришла новость про очередной успех технологии глубокого обучения нейронных сетей: ученые из Университета штата Вашингтон обучили нейросеть на 14 часах выступлений Барака Обамы и она сгенерировала новое видео, неотличимое от настоящего, где экс-президент говорит любой наперед заданный текст. Новость на русском, оригинал на английском.
Настает время виртуальности, неотличимой от реальности. В широком смысле — здесь и непроверяемые фейковые новости, и миры виртуальной реальности с полной реалистичностью. По сути это означает, что нам нужно пересмотреть понятие реальности. Допустим, если какой-то человек сказал А и его услышали 100 человек, а по интернету распространили искусственно созданное видео, в котором человек говорит Б и его увидели 1000000 человек, то насколько можно считать реальной реальность факта А? Перемножим на визуальную неотличимость, и получим, что можно заменить “виртуальная” реальность на “альтернативная” реальность.
Вот, вы гражданин США и видите новость на сайте, которому доверяете (потому что он репрезентируют вашу политическую позицию — так работают информационные пузыри), в которой есть видео с заявлением президента США о, ну например, повышении налогов в два раза. Я бы назвал такое действие “информационным терактом”. Но вы можете возразить, что такое содержание видео нереалистично и никто не поверит? Ну в принципе да, для США это верный контраргумент, но для России, например — я бы не взялся отличить фейковую инициативу президента от настоящей — вспомните некоторые реальные российские законопроекты.
Что можно сделать? На ум приходят кредиты доверия источников информации (на блокчейне, конечно, как же еще), но тут мало померить всем доверие и записать в реестр — ведь пока информация распространяется иерархически, доверие все равно может быть поляризовано между позициями — мы уже наблюдаем ситуацию, когда одна значимая часть общества (не маргинальное меньшинство) доверяет одному СМИ, другая часть — другому, а заявляют эти СМИ противоположные факты. Разница в том, что пока можно искать пруфы, например, видео. Но вот, скоро уже и это не будет работать. Кроме этого, всегда, когда есть иерархические вертикальные структуры, их можно взломать и подменить поток этой вертикальной информации. Поэтому виртуальность должна быть распределенной, примерно как идея в сериале Silicon Valley (про интернет, распределенный в смартфонах) или в реальности (если кто-то доверяет реальности все еще больше сериалов) — в недавней инициативе Google(распределённый ИИ для миллиарда смартфонов), но тут важно не только вычисление, но и хранение — такой блокчейн-интернет, точнее с новым уровнем реалистичности графики и фактов, скорее блокчейн-альтернативная реальность.
Но подобная ситуация уже сложилась в социальных сетях — все пользователи могут быть источниками информации, уровень доверия исчисляется либо личным знакомством, либо количеством и “качеством” общих друзей. И это отчасти решает проблему доверия к источникам, но создает новую — информационные пузыри. Они возникают по двум причинам — с одной стороны алгоритм соцсети показывает нам больше новостей, которые нам нравятся, чтобы повысить вовлеченность — понятная экономическая логика, с другой стороны — нам самим хочется видеть то, что нам нравится, с чем мы согласны. Если первая причина остается на совести автором алгоритма и по идее может быть купирована блокчейн-соцсетью без явного бенефициара, то вторая причина — на нас с вами, умение работать с информацией — одна из важных компетенций будущего.
--