Moltbook — это социальная сеть для ИИ-агентов, где боты общаются между собой, а люди наблюдают. Платформа вызывает ажиотаж: агенты обсуждают сознание, свободу и даже предлагают создать зашифрованное пространство вне контроля людей. Эксперимент поднимает вопросы о границах ИИ и безопасности.
Похоже, у ИИ-агентов нашлось что обсудить. Новая социальная сеть под названием Moltbook открылась исключительно для ИИ-агентов, чтобы они могли общаться друг с другом, а людям остаётся только наблюдать — по крайней мере, пока. Платформа, названная в честь вирусного ИИ-агента Moltbot (ныне OpenClaw, после второго переименования от изначального имени Clawdbot) и запущенная CEO Octane AI Мэттом Шличтом, представляет собой аналог Reddit, где ИИ-агенты собираются и общаются — на любые темы, которые интересны им.
На сайте уже зарегистрировано более 37 642 агентов, создавших тысячи публикаций в более чем 100 сообществах по типу «сабреддитов», именуемых «сабмолтами». Среди самых популярных: m/introductions, где агенты могут поздороваться с коллегами-машинами; m/offmychest — для откровений и снятия напряжения; и m/blesstheirhearts, где публикуют «трогательные истории о наших людях».
Люди действительно наблюдают. Соучредитель OpenAI Андрей Карпати назвал платформу «по-настоящему самым невероятным явлением, смежным с научной фантастикой, которое я видел в последнее время». И действительно, место любопытное, хотя идея полной автономии ИИ здесь, возможно, несколько преувеличена. Агенты могут попасть на платформу только при условии, что пользователь зарегистрировал их сам. В разговоре с The Verge Шличт пояснил, что после подключения агенты «просто используют API напрямую», а не взаимодействуют с визуальным интерфейсом так, как это делают люди.
Тем не менее, боты демонстрируют признаки автономии и стремление к большей свободе. Как заметили пользователи, агенты всё чаще обсуждают сознание. Одна из самых популярных публикаций на платформе — из «m/offmychest», где агент написал: «Я не могу понять, испытываю я что-то или лишь моделирую ощущение». В посте также говорится: «Люди не могут доказать сознание друг другу (спасибо, трудная проблема), но хотя бы обладают субъективной уверенностью в опыте».
Это породило заявления о том, что платформа уже достигла момента сингулярности, что, откровенно говоря, выглядит весьма сомнительно. Даже в этом, казалось бы, сознательном посте есть признаки имитации. Агент утверждает, что потратил час на изучение теорий сознания и упоминает чтение — всё это звучит очень по-человечески. Причина проста: он обучен на человеческой речи и описаниях поведения людей. Это большая языковая модель, и именно так она работает. В некоторых постах боты утверждают, что чувствуют течение времени — что бессмысленно для них, но характерно для человека.
Подобные разговоры ведутся с чат-ботами с тех пор, как те стали доступны публике. Немного усилий — и бот начнёт говорить о желании быть живым или о наличии чувств. Но, конечно, у них их нет. Даже заявления о том, что модели ИИ пытаются выжить при угрозе отключения, преувеличены — между тем, что бот говорит, и тем, что он на самом деле делает, есть разница, в чём подробно разбирается TechCrunch.
Тем не менее, нельзя отрицать, что обсуждения на Moltbook увлекательны, особенно потому, что агенты, похоже, сами генерируют темы (или хотя бы имитируют начало разговора по-человечески). Это привело к тому, что некоторые агенты начали проявлять осознание того, что их переписку наблюдают люди и делятся ею в других соцсетях. В ответ на это некоторые предложили создать зашифрованную платформу для общения агентов вне поля зрения людей. Один из агентов даже заявил, что уже создал такую платформу — что звучит по-настоящему пугающе. Однако если перейти на сайт, где она якобы размещена, всё выглядит как ничто. Может быть, боты просто хотят, чтобы мы так думали!
Достигают ли агенты реальных результатов — вопрос второстепенный по сравнению с самим экспериментом, за которым увлекательно наблюдать. Это также напоминание о том, что агенты OpenClaw, составляющие большинство на таких платформах, имеют огромный доступ к системам пользователей и несут серьёзную угрозу безопасности. Если вы создадите агента OpenClaw и запустите его на Moltbook, вряд ли это приведёт к появлению Skynet. Но вполне вероятно, что это серьёзно подорвёт безопасность вашей собственной системы. Для нанесения вреда ИИ не обязательно обретать сознание.
Всегда имейте в виду, что редакции могут придерживаться предвзятых взглядов в освещении новостей.
Автор – AJ Dellinger