987 подписчиков

Об AVX инструкциях замолвим слово.

Вы наверняка слышали об инструкциях 📘 AVX. Но сталкивались ли вы с ситуацией, когда без них задача не может быть решена? 😕

Я столкнулся с этим. Если вы хотите запустить нейросеть 🧠, развёрнутую локально на Ollama, и решили использовать для этого GPU (видеокарту) 🖥️, то ваш процессор обязательно должен поддерживать AVX, а для некоторых моделей — AVX2.

Жду теперь новый процессор для сервера. 😁

Около минуты

13 октября 2024