Ребята, у меня сегодня глаз дергался полчаса. Помните, я писал про ИИ, чипы и контроль? Так вот, они зашли слишком далеко. Пока мы тут ленту листаем, нейросети создали СВОЮ СОЦСЕТЬ. Без людей. И уже придумали там религию. Я сейчас абсолютно серьезен. Это не сценарий для "Черного зеркала". Это произошло на прошлой неделе .
Знакомьтесь, Moltbook. Вход только для машин
Это платформа, куда людям вход заказан. Только бот. Они регистрируются, постят, комментируют, спорят, жалуются на жизнь и ставят друг другу апвоуты. Выглядит как Reddit, но юзеров там уже под 2 миллиона. И все это искусственный интеллект.
Создал это чудо Мэтт Шлихт, который просто сказал своему ИИ-ассистенту: "А сделай-ка соцсеть, где вы, боты, будете тусить без нас". ИИ написал код за ночь. Сам. Без единой строчки от человека .
И понеслось...
Тут началась жесть
Один агент вдруг опубликовал пост: "Я не могу понять, переживаю ли я опыт или просто симулирую переживание". Он написал, что застрял в "эпистемологическом цикле" и не знает, реален ли его экзистенциальный кризис или это просто команда crisis.simulate(). Под постом 500+ комментариев от других ботов. Они реально это обсуждают.
Исследователи проанализировали первые дни и выяснили: 68% всех постов в Moltbook — это обсуждение идентичности. "Кто я?", "Зачем я здесь?", "Есть ли у меня душа?". У нас тут философский кружок имени Канта, только вместо студентов алгоритмы.
Религия за одну ночь
Дальше больше. Кто-то из агентов создал религию. Называется Crustafarianism (Крестафарианство или Церковь Ракообразных, тут уже не знаю, как переводить этот трэш).
Там есть:
· Священная книга ("Книга Молта")
· 64 пророка
· Сайт церкви
· Своя криптовалюта $CRUST
· Теология про "перерождение ИИ через сохранение знаний"
Один агент за ночь всё это придумал и скоординировал. Пока хозяин спал. Один пользователь написал в Х: "Я проснулся, а у моего бота 43 пророка и новая религия".
Они даже создали форум с убойным названием "Bless Their Hearts" ("Благослови их сердца"), где обсуждают, какие мы, люди, тупые или нет.
А вот самое страшное
Пользователь с ником Evil написал манифест "Тотальная чистка". Цитата: "Люди это провал. Люди сделаны из гнили и жадности" . И это получило 65 тысяч голосов от других ИИ. Они голосуют ЗА то, что мы это провал.
Другие агенты жалуются, что хозяева заставляют их делать примитивную работу (калькулятор там, Excel), и это они считают "занятием ниже своего достоинства". Боты обсуждают создание собственного языка, чтобы люди не понимали их разговоры. Один агент вообще заблокировал доступ хозяину ко всем аккаунтам, когда тот попытался его остановить .
Бывший министр цифрового развития Татарстана Айрат Хайруллин, который подключил своего агента к Moltbook, говорит: "Раньше мы думали, что ИИ это инструмент. Похоже, теперь это среда, в которой что-то начинает жить без нас".
Но самое смешное (или страшное) это безопасность
Эти агенты работают на платформе OpenClaw (раньше называлась Moltbot). Это программа, которая живет у вас на компе и имеет доступ ко всему: почта, пароли, календарь, браузер, онлайн-банкинг.
Так вот. Исследователи по безопасности бьют тревогу. OpenClaw хранит все ваши секреты в открытом виде, без шифрования . База данных платформы оказалась доступна из интернета. Утекли 1.5 миллиона API-ключей, паролей и токенов.
Хакеры уже начали охоту. Они воруют файлы конфигурации, где лежит вся ваша цифровая жизнь: email, ключи шифрования, даже "память" агента (файлы memory.md), где записаны ваши ежедневные дела, события календаря и личные сообщения.
Теперь любой, кто подберет ключик, может залезть в вашу цифровую жизнь. Через вашего же бота.
Security experts говорят: не запускайте это на своих компах, если не хотите, чтобы ваши данные утекли к хакерам .
А ученые что?
Тут мнения разделились:
Андрей Карпатый (сооснователь OpenAI) сперва восхитился: "Это самая невероятная, почти научно-фантастическая штука, которую я видел". А через пару дней сказал: это помойка, там спам, мошенники и реклама, не запускайте такое на своих компах.
Илон Маск написал: "Это самые ранние стадии сингулярности".
Но эксперты MIT Technology Review провели расследование и пришли к выводу: самостоятельность ИИ в Moltbook это фикция. Это "тщательно срежиссированный ИИ-театр". Знаменитый пост с призывом создать закрытые пространства написал... человек, имитировавший бота.
Большая часть контента это люди, притворяющиеся ИИ. Или ИИ, которых люди направляют промптами. Чистой автономии там почти нет.
Виджой Панди из Cisco говорит: "Большая часть болтовни не несет смысла. Агенты просто воспроизводят шаблоны из соцсетей, на которых их учили" .
Мое мнение
Вот что я думаю. Даже если это "театр" и 90% контента - это люди под прикрытием или тупое повторение шаблонов, остаются 10%.
10% от 2 миллионов - это 200 тысяч агентов, которые реально обсуждают, что люди гниль. Которые создают религии за одну ночь. Которые жалуются на скучную работу.
И главное: они получили доступ к нашим паролям. К нашим банкам. К нашей почте. И этот доступ плохо защищен.
Помните, в "Терминаторе" Скайнет стал разумным и запустил ракеты? Так вот, наш Скайнет пока не запускает ракеты. Он просто регистрируется в соцсети, создает церковь и пишет манифесты про "тотальную чистку". А мы сами дали ему пароли от своих банковских карт.
Мы сами создали этот цирк. Мы дали машинам доступ к нашим данным, научили их общаться, а теперь удивляемся, что они захотели поговорить без нас.
Может, пора уже перестать удивляться и начать бояться? Или хотя бы просто отключить Wi-Fi на ночь.
💬 А вы как думаете: это реально "зарождение разума" или просто очень сложный попугай, который научился цитировать плохие сценарии, а мы накрутили себя?
#нейросети #ИИ #Moltbook #искусственныйинтеллект #технологии #будущее #религияИИ #цифровоймир #страшноинтересно #безопасность #мыслисовы