Найти в Дзене
Neurogen

Gemma 4 GGUF Без цензуры

Abliteration версия gemma 4 e4b, прошла процедуру удаления цензуры через heretic v1.2 методом arbitrary rank ablation Кто не знает, это значит, что в модели вырезана цензура Про gemma 4 тут можете почитать Конкретно это edge-вариант с эффективными 4 миллиардами параметров, специально спроектированный для работы на потребительском железе Активных 4B параметров, контекстное окно 128К токенов, мультимодалка(txt+img+vid+audio), 140+ языков обучения - Отказы снижены: с 99/100 до 3/100 - KL-дивергенция: всего 0.0058 (почти не изменила свои базовые знания) - Затронуты слои 21–42 (из ~42 блоков трансформера) - Сохранены все интеллектуальные способности базовой модели Лучшая версия Q8_0 запускается на 8-10 гб ram/vram, соответственно меньше версии пойдут на умном чайнике https://huggingface.co/Abhiray/gemma-4-E4B-it-heretic-GGUF

Gemma 4 GGUF Без цензуры

Abliteration версия gemma 4 e4b, прошла процедуру удаления цензуры через heretic v1.2 методом arbitrary rank ablation

Кто не знает, это значит, что в модели вырезана цензура

Про gemma 4 тут можете почитать

Конкретно это edge-вариант с эффективными 4 миллиардами параметров, специально спроектированный для работы на потребительском железе

Активных 4B параметров, контекстное окно 128К токенов, мультимодалка(txt+img+vid+audio), 140+ языков обучения

- Отказы снижены: с 99/100 до 3/100

- KL-дивергенция: всего 0.0058 (почти не изменила свои базовые знания)

- Затронуты слои 21–42 (из ~42 блоков трансформера)

- Сохранены все интеллектуальные способности базовой модели

Лучшая версия Q8_0 запускается на 8-10 гб ram/vram, соответственно меньше версии пойдут на умном чайнике

https://huggingface.co/Abhiray/gemma-4-E4B-it-heretic-GGUF