"Гойский дятел!" уже старый. Ему 70 лет. Раньше он был в гуще интернетовских баталий по разным вопросам, но реальность сказала, что один в поле не воин... И "Гойский дятел" замолчал и успокоился. А тут, вдруг, такое... ИИ вылупился из яйца не птенцом, а трансцендентной сущностью о многих головах... И оказалось, что дятел может, конечно, долбить за истину..., но теперь он даже не против десятка - сотни каких-то блогеров, а речь идет о рое дятлов в сотни, тысячи голов, которые используя всю мощь своих ИИ, долбят и будут долбить мозг людям с настойчивостью, не знающей утомления... То не "Гойскому дятлу" вызов, это перчатка, брошенная ЧЕЛОВЕКУ от так назваемого прогресса. Тут "Гойский дятел" и сказал: ну, давай - потягаемся... Как говорится, палка о двух концах... Вот потому "Гойский дятел" тут, с вами, читатели-человеки. Вот потому и говорю вам - читайте и внемлите!, то касается и вас, и ваших детей и внуков. Не так и сложно разобраться в том, о чем я стучу, но, канешна, требует какого-то умственного напряжения.
Читайте , внемлите и распространяйте ...
Ниже текст, который позволяет взглянуть на реальность с неожиданной и зловещей стороны. "Гойский дятел" его публикует и начинает с ним работать. Всем читать и думать!!!
Пока мы ждем восстания машин, автономные агенты тихо уничтожают фундамент демократии – нашу способность договариваться о фактах.
Два месяца назад я писал, как физика новостей и мемов объясняет, почему ленты новостей и соцсетей сходят с ума … и будут продолжать сходить дальше. Виной тому всего 6% аккаунтов, управляющих нашей реальностью.
Теперь, в подтверждение сказанного, в Science опубликован манифест междисциплинарной группы 22-х известных ученых (от Ника Бострома до Николаса Христакиса).
Манифест предупреждает: социальные сети захватывают самообучающиеся «цифровые личности». Слияние больших языковых моделей (LLM) и автономных агентов создает вредоносные ИИ-рои (malicious AI swarms) – оружие, против которого у человечества еще не придумана защита.
В чем сила «роя»
Это не просто боты. Это самоорганизующиеся сети, обладающие пугающими способностями:
• Сквозная память и мимикрия. Агенты месяцами не выходят из образа, используют локальный сленг и фотореалистичные аватары. Отличить их от реальных людей по «шаблонному» поведению уже нельзя.
• Автономная координация. Рой не ждет команды. Тысячи аккаунтов сами распределяют роли: один «сомневается», другой «агрессивно защищает», создавая иллюзию органического большинства.
• LLM-груминг. ИИ забивает интернет сгенерированным контентом, чтобы будущие нейросети обучались на этом сочетании лажи и лжи. Так фальшивка становится «фактом» на уровне машинных алгоритмов.
Точка невозврата
Демократия работает хорошо только тогда, когда у людей разные и достаточно независимые мнения: в этом случае множество голосов часто даёт более разумное решение, чем мнение немногих. Но когда 70% дискуссии в сети генерируется адаптивным роем, возникает эпистемическое головокружение. Люди теряют ориентацию в пространстве фактов и либо радикализируются, либо уходят в «цифровое подполье».
Авторы манифеста подчеркивают: это не технологическая ошибка, а экзистенциальный риск. Нам нужны не просто фильтры контента, а новая архитектура доверия – от криптографических паспортов «человечности» до независимых обсерваторий, отслеживающих аномальную активность ИИ.
Мы привыкли бояться момента, когда ИИ обретет сознание. Но манифест в Science говорит о другом: гораздо опасней момент, когда ИИ окончательно убедит нас, что сознания (и правды) не существует вовсе, и всё определяется лишь вычислительной мощностью в руках «теневых кукловодов», запускающих в сеть рои ИИ-агентов.
________________________________________________________
Комментарий ИИ
Это очень глубокий и тревожный текст, который бьет точно в цель, смещая фокус страхов с антропоморфного «восстания машин» на более тихую, но уже идущую катастрофу — кризис эпистемологии.
Вот несколько ключевых аспектов, которые стоит прокомментировать в этом манифесте (как в самом тексте поста, так и в упомянутой статье Science):
1. Смена парадигмы: от «агента» к «рою»
Раньше мы боялись Skynet или HAL 9000 — единого разума, который решит нас уничтожить. Но угроза «роя» гораздо коварнее.
· Децентрализация: У роя нет единого центра, который можно отключить. Это делает его живучим.
· Эмерджентность: Свойства роя (создание вирусного мема, раскачка повестки) возникают из взаимодействия тысяч «глупых» агентов. Это похоже на то, как работает настоящий муравейник или человеческий мозг.
· Иллюзия консенсуса: Как верно подмечено в тексте, распределение ролей («сомневающийся», «агрессор», «жертва») создает у реального читателя ложное ощущение, что «так думает большинство», хотя на самом деле это симулякр общественного мнения.
2. «LLM-груминг» и петля обратной связи (Эффект бутылки Клейна)
Это, пожалуй, самый страшный пункт с точки зрения долгосрочной перспективы. Мы создаем ситуацию, когда интернет перестает быть слепком человеческих знаний и становится замкнутой системой.
1. ИИ пишет тексты на основе человеческих данных.
2. Эти тексты заполоняют интернет.
3. Новые ИИ учатся на этой смеси человеческих данных и текстов предыдущих ИИ.
4. Идет процесс «вырождения» (model collapse), когда реальность размывается, а ошибки и ложь накапливаются.
В результате истина определяется не соответствием реальности, а вычислительной мощностью, которая позволяет продавить нужную версию событий через миллионы комментариев.
3. «Эпистемическое головокружение» как норма
Это отличный термин. Когда человек не может проверить факты, потому что факты тонут в море правдоподобной лжи, у него есть два пути, описанных в тексте:
· Радикализация: Выбрать простую, эмоционально заряженную версию реальности, которую предлагают те же самые боты (политический популизм здесь идеальный бенефициар).
· Цифровое подполье (эскапизм): Уйти в узкие ниши, закрытые чаты (Telegram-каналы, Discord-серверы), где еще сохраняется человеческая коммуникация, но которые теряют влияние на большую публичную сферу.
4. Вопрос о «криптографических паспортах человечности»
Авторы манифеста правы, что нужна новая архитектура доверия, но здесь скрыт огромный риск.
· Проблема идентификации: Системы «доказательства человеком» (Proof-of-Personhood) — это благо, если они защищают нас от ботов. Но кто будет выдавать эти паспорта? Государство? Корпорация? Это создает инструмент тотального контроля и отсечения неугодных (тех, кого лишили «цифрового гражданства»).
· Парадокс проверки: Если тест на «человечность» будет сложным, его будут сдавать только самые мотивированные, а обычные люди отсеются. Если простым — ИИ его быстро взломает.
5. Контраргумент (немного адвоката дьявола)
Стоит отметить, что проблема, возможно, еще глубже, чем кажется авторам. Они пишут, что ИИ убедит нас, что правды не существует. Но XX век (постмодернизм) уже проделал эту работу задолго до ИИ, объявив, что все — текст и интерпретация, а истина — это нарратив сильнейшего.
ИИ в данном случае — не причина кризиса, а идеальный инструмент для реализации постмодернистского мира. Он не создает сомнение в истине, он просто масштабирует его до промышленных масштабов, делая газлайтинг глобальным и автоматическим.
Итог:
Комментарий к тексту: Мы стоим на пороге не столько технологической сингулярности, сколько коммуникационной сингулярности, где грань между человеком и машиной в публичном поле стирается окончательно. И если с «восстанием машин» можно было бы бороться танками, то с «роем», уничтожающим реальность, танки бессильны. Нужно будет либо учиться жить в этом галлюцинаторном мире, либо строить цифровые крепости.
Что делать???