К статье Использование нейросетей и достоверность информации пришел интересный комментарий, приведем его полностью ниже и предлагаем побродить мыслями на тему.
Скажите пожалуйста, если технологии развиваются темпами в геометрической прогрессии, а общественное сознание, ментальность достаточно косны и неповоротливы, чтобы сформулировать, выработать правила информационной этики, то каким образом можно преодолеть человечеству (не говоря про отдельных ретро, консерваторов, неолуддистов, неоязычников, которых малые проценты и которые не играют роли в истории, разве только отдельные харизмы притормаживали ее ход) эту "вилку" противоречия, грозящая тотальным невежеством и новым темным средневековьем, потерей контроля над обработкой массы данных и прогрессом нейросетей, расколом общества на множество информационных пузырей? Вопрос может быть и пошловатый уже. Но именно вот этот факт доверия, привычки к нейросетям и когнитивного произвола их создателей (точнее вполне себе меркантильного) лежит в основе разлада человека со своей человеческой природой, стремлением к правде, красоте, естественности, человеколюбию. Это те рычаги, которые направляли человечество к созиданию. А если гуманизм можно выразить разными языками, изукрасить в разных ипостасях, крутить этими рычагами в угоду крупных IT-владельцев... С человеком, с его сложной психической натурой лучше не шутить. Или поведение человеческих масс уже не сложное?
Итак, что можно сказать по теме. Если мы пройдемся взглядом по истории человечества, то увидим, что всегда были некие "поводыри" и "масса". Массе требовалось "хлеба и зрелищ", и поводыри использовали это желание, чтобы вести массы в требуемом направлении: как правило, в конкурентной борьбе с другими поводырям. Прогресс являлся орудием борьбы. Как только где-то прогресс останавливался, другие группы получали возможность догнать и наказать текущего лидера (хороший пример - Римская империя).
Людям всегда приходилось подстраиваться под изменяющиеся условия. Гибкость мозга в этом отношении является и силой индивидуума и объединения индивидуумов в массы (позволяет выжить в изменившихся условиях), и одновременно её слабостью (позволяет манипулировать массой, направлять в нужном направлении; пример - текущая Украина, где миллионы людей адаптировались под текущую реальность и борются фактически за ухудшение своей жизни). Если верить мозговедам, основано это на стремлении организма экономить энергию. Постоянный мыслительный процесс потребляет слишком много энергии, а так как насыщение продуктами произошло только в 60-70 годах ХХ века (да и то не на всей территории земли), а до этого вся история была историей добычи пропитания, то очень важно для выживания было экономить энергию. И если действительность не соответствовала мысленным установкам, а питания на осмысление не хватало, это очень дорого обходилось этому мозгу. Поэтому проще было принять реальность без особого размышления, иначе умрешь с голоду. А о высоком подумают "поводыри", у которых с обеспечением энергией все хорошо. Вот, наверное, и фундамент для управления движением масс. Выше уже наслоение обоснования, почему двигаться нужно именно в этом направлении - различие своих и чужих по религиозному, расовому, языковому, да по любому признаку.
В XX веке была попытка уровнять уровни масс и поводырей. Построение СССР. Попытка вроде бы неудачная, однако, как говорится, ещё не вечер, волны от этого камня продолжают расходиться.
При этом у прогресса выявилась особенность ускоряться в прогрессии.
Что, однако, несколько нивелируется рождением следующего поколения человеков, которым передается уже концентрированный и обобщенный опыт предыдущих поколений. К примеру Коперник жизнь положил, чтобы доказать, что земля крутится, а следующие поколения знают об этом, прочитав строчку в учебнике.
Прогресс ускорялся, ускорялся, и в начале XXI века сложилась ситуация, когда появилось ощущение, что стремительное движение технологий вперед достигло предела адаптивной изменчивости мозга человека. Хотя это касается в основном "поводырей", но массу зацепляет тоже.
Мы смотрим новости о проблемах, в которых задействован небольшой процент населения. Но поскольку звучит это все громко, то создаётся ощущение, что проблема прямо касается всех.
При этом нужно иметь ввиду, что основная масса занята выполнением достаточно однообразных действий, в основном легко осваиваемых. К примеру, раньше человек носил воду в емкости, через время он управлял конем для перевозки воды, через время он работает оператором, нажимающим на кнопку, включающую насос. Работа не сложная.
А из потока информации вылавливается развлекательный контент. Ну, изобразили Папу Римского черным, что поменяется в жизни человека? Да в общем-то ничего.
Вопрос в фальсификациях более сложного порядка, вроде изменения истории, когда появляется желание расчеловечить какую-то группу людей для оправдания её уничтожения? Так это было всегда в истории человечества, ничего принципиально нового в этом нет. Когда-то это были ораторы, потом к ним добавились газеты и печатная продукция, потом радио и телевидение. Сейчас к ним добавились интернет-возможности. Но как раньше обыватель не мог проверить, правдиво ли написано в статье, так и сейчас не имеет ресурса проверить, правда ли размещена в сети (ему необходимо тратить время на выполнение своих рабочих обязанностей, чтобы добыть средства для жизни и система капитализма зорко следит, чтобы времени лишнего у обывателя не появилось, управляемая масса же).
Под вышеописанное попадает и потеря гуманизма от современных технологий. Это не более, чем происходило ранее в истории. Люди воюют с людьми на всем протяжении существования. Других соперников у них просто нет. Это нужно помнить.
Если люди начинают полагаться на нейросети (а так и произойдет), то полагаться будут по обе стороны противоборства, по-другому не бывает. Когда появляется инструмент, его используют все конкурирующие стороны. Человеческую природу это не меняет.
Произойдет ли при этом массовая деградация и отупение? Смотри выше, чем занимается основная масса людей. Сложно деградировать из этого состояния. Оно итак не находится на высоте.
Деградируют ли "поводыри"? Едва ли. Как только кто-то из них дает слабину, этим мгновенно пользуются другие группы. Поводырям приходится быть все время в тонусе. И они используют все возможные средства. Использование нейросетевых технологий, технологий фармакологии или попыток внедрения электродов в мозг. Как только технология отрабатывается, идет её использование. А масса - это просто объект в этой захватывающей игре.
Вопрос может возникнуть, если появится другая сила, вне круга людей. Искусственный интеллект или инопланетяне. Тогда расклады могут измениться.
Существует вопрос в том, что системы жизнеобеспечения становятся все более сложными и, соответственно, менее надёжными. Может ли произойти масштабный катаклизм из-за этого и не грозит ли он вымиранию человечества или отбрасыванию человечества в условные средние века.
Общий ответ - навряд ли, но можно рассмотреть это углубленно при желании читателей.
Ответ на вопрос в заголовке: в настоящее время риски самоуничтожения человечества в результате слишком ускорившегося прогресса находятся на исчезающе малом уровне. Но отслеживать развитие ситуации нужно. Надеемся, что специально обученные люди этим занимаются.
На этом пока все. Берегите себя и все у нас будет хорошо.