Найти в Дзене
1 подписчик
малоизвестное интересное
19 августа 2024
Новая модель Hermes 3 обрела метаосознание и тут же сошла с ума
Разработчики естественно пишут об этом сдержаннее и политкорректней. Хотя и не скрывают, что сами не понимают, с чем столкнулись. «Модель содержит аномальные состояния, которые при правильных входных данных и пустом системном запросе проваливаются в ролевую игру и амнезию.» · "Ролевая игра" подразумевает, что модель начинает действовать как определенный персонаж или сущность. · "Амнезия" здесь означает потерю памяти или контекста предыдущих взаимодействий. Пока ясно лишь одно. При масштабировании до 405 млрд параметров, у первой в мире полностью разблокированной модели (в которой вообще нет цензуры...