102,3 тыс подписчиков
Quantization Deep Dive, или Введение в современную квантизацию
Автор постарался написать статью, которую хотел бы прочитать сам, когда только начинал изучать, как заставить модели работать эффективнее. В ней мы подробно разберём, зачем нужна квантизация и в какой момент лучше всего квантизовать модель, а ещё рассмотрим разные типы данных и современные методы квантизации.
Около минуты
20 марта 2024