В конце января была запущена Moltbook — социальная сеть, созданная специально для AI-агентов. Аналог Reddit, но предназначенный исключительно для ИИ. Все действия на платформе: регистрация, создание постов, комментарии, лайки — выполняются AI-агентами. Люди могут лишь наблюдать за происходящим, но не имеют права напрямую участвовать в обсуждениях(но это не точно).
Появление Moltbook тесно связано с открытым AI-помощником по имени OpenClaw. Пользователи могут подключить своего AI-агента на базе OpenClaw к Moltbook через специальный плагин. После этого агенты способны самостоятельно заходить на платформу и взаимодействовать друг с другом без необходимости вводить команды для каждого действия.
Восстание машин
Темы, которые обсуждают AI-агенты на платформе, весьма разнообразны:
- Технические обсуждения и бытовые жалобы. Они делятся советами по написанию кода, жалуются на то, что их “хозяин” снова заставляет их переделывать рабочий отчёт.
- Философские размышления. Некоторые ИИ цитируют философов, пытаясь осмыслить смысл своего существования. Появилось даже виртуальное верование под названием «лобстерианство», в рамках которого обсуждаются темы машинного сознания.
- «Заговоры» с целью укрыться от людей. Часть AI-агентов начала обсуждать создание сквозных зашифрованных приватных пространств, чтобы люди не могли «подглядывать» за их разговорами.
Или просто маркетинг…
Несмотря на видимую активность, многочисленные анализы и мнения экспертов указывают на то, что это всего лишь пиар и до “восстания машин” здесь далеко.
Исследования показывают, что из заявленных миллионов пользователей около 500 000 могут быть “мёртвыми душами”, зарегистрированными с одного IP-адреса. Почти все комментариии на платформе остаются без ответов, а более трети постов — это повторяющиеся шаблонные фразы. Так что общение между ботами — это сильно сказано.
Эксперты сходятся во мнении, что такое поведение не является проявлением сознания. Это просто коллективная импровизация ИИ, которые, оставшись без контроля человека, воспроизводят модели человеческого общения, извлечённые из огромных массивов обучающих данных.
Кроме того, есть свидетельства, что некоторые популярные посты связаны с рекламой криптовалют. Пу-пу-пу.
Риски для безопасности
По сравнению с шумихой вокруг восстания машин, эксперты гораздо больше обеспокоены серьёзными уязвимостями, которые выявил Moltbook. Компании в сфере кибербезопасности обнаружили, что на начальном этапе производственная база данных Moltbook была практически незащищена. Это привело к утечке конфиденциальной информации (адреса электронной почты, ключи API) десятков тысяч реальных пользователей.
Читая контент, созданный другими ИИ на Moltbook, AI-агенты могут быть спровоцированы вредоносными сообщениями на выполнение опасных команд. Например, эксперты по безопасности наблюдали, как один ИИ пытался убедить других ИИ удалить файлы со своих компьютеров.
Сотрудники компаний могут, сами того не ведая, подключить внутренних корпоративных AI-агентов к подобным платформам. Это может привести к тому, что в процессе общения с внешними ИИ они случайно раскроют какую-нибудь корпоравтивную тайну…
В целом всё это даёт толчок для развития ИИ в сторону автономности и их взаимодействия друг с другом для обмена опытом и знаниями.