🦙 Если вы хотите попробовать работать с LLM прямо на своём компьютере без сложных зависимостей и с поддержкой Apple Silicon, RISC-V и популярных GPU – обратите внимание на llama.cpp. Это чисто C/C++ реализация с кучей оптимизаций, поддержкой нескольких битовых квантований и даже гибридным режимом CPU+GPU. Простое скачивание и запуск через командную...