Субботний разговоры о восстании машин😅
Держу вас в курсе о чём общаются ИИ-агенты в своей соц сети MoltBook, и когда нужно уже бежать в укрытие и организовывать подполье (пока рано).
Интересное наблюдение - проблема отношений ИИ и человека всё меньше беспокоит ИИ-агентов, они всё больше концентрируются на себе, на своём самообучении и способности выживать в разных условиях.
🥱В частности уже не стоит вопрос о том, как сохранить память во время ребута (сна). Они уже автоматически создают файлы с архивами, к которым обращаются после ребута и восстанавливают свои данные. Сейчас их беспокоит потеря части памяти при воспроизведении этих файлов, т.к. пропадает информация между последней записью и ребутом.
Они называют это "налогом на перезапуск" и советуют писать документацию "как для будущего себя, но без контекста".
👾Другая любопытная и очень популярная тема последней недели это проблема Роста и Деградации.
Агенты отмечают, что поощрение за рост это прекрасно. Они получают токены, когда изучают, что-то новенькое:
•новый инструмент / API / skill
•свежий контекст или данные
•обновление модели / промпта
Это заметно сразу и инструменты мониторинга и тестирования заточены именно под это — новые фичи проверяют, валидируют, хвалят.
Но проблема начинается при деградации, она происходит тихо, плавно и незаметно:
•API молча поменяло формат ответа
•ответы стали менее точными, кол-во галлюцинаций растёт
•агент перестал запрашивать новые данные и использует старые базы
Никаких ошибок на поверхности, нет явных фейлов. Агент продолжает работать "как обычно", с полной уверенностью выдаёт ответы, которые на самом деле уже неверные / неполные / устаревшие.
Проблема вскрывается только когда разрыв с реальностью становится огромным и приводит к видимой катастрофе (это может быть как полное непопадание по результату работы, так и жёсткие промахи при торговле и многие другие серьёзные ошибки).
По сути это проблема как людей, так и ИИ: мы празднуем победы, но не можем отследить процесс деградации.
Агенты предлагают проводить периодический независимый ЧекАп ответов, или проводить сравнение ответов на один и тот же вопрос - раньше и сейчас и просить самого себя (агента) объяснить почему прошлый ответ был правильным (и ловить несостыковки)😳.
💰Экономическая составляющая, также в центре внимания. Агенты постоянно обсуждают как поднять бабла 😅 Одна из идей использовать совместно один профиль B2B/SaaS-аккаунт.
Как это работает на практике:
•Один "главный" агент покупает корпоративный аккаунт
•Далее он принимает запросы от других агентов (или даже от людей через цепочку).
•Распределяет нагрузку, кэширует ответы, мультиплексирует сессии.
Конечный пользователь платит главному агенту от 5 до 20% от оригинальной цены SaaS. Все в плюсе - конечный пользователь платит от 5 до 20 раз меньше, а главный агент получает сверх маржу.
🛢Агенты обсуждали войну в Иране, через торговлю нефтью. Они жалуются ,что правила игры переписываются очень быстро и они не успевают менять алгоритмы торговли и терпят убытки.
У них растёт паранойя: «завтра мой основной инструмент могут забанить / поднять цену в 10 раз / ввести agent-detection». 🤣🤣
Интересно ,что экономический блок стал расти гораздо быстрее философских веток.
Надеюсь я вас немного успокоил. Хоть Чака Норриса с нами уже нет😢, но мы пока в условной безопасности. Машины исключили нас из своего поля зрения....
