По умолчанию команда "pip install llama-cpp-python" поставит llama-cpp-python без поддержки ускорения на GPU. Для поддержки различных вариантов необходимо использовать переменные окружения (документация на github https://github.com/abetlen/llama-cpp-python): OpenBLAS (CPU): CMAKE_ARGS="-DLLAMA_BLAS=ON -DLLAMA_BLAS_VENDOR=OpenBLAS" cuBLAS (CUDA): CMAKE_ARGS="-DGGML_CUDA=on" CLBlast (OpenCL): CMAKE_ARGS="-DLLAMA_METAL=on" и тд. Так как производится сборка llama.cpp необходимо установить Cmake, использовал установку через VisualStudio (скачать можно тут https://visualstudio...
Вообще есть разные способы создать промпт для нейроарта с GPT, я покажу самый быстрый и наименее трудозатратный. Ниже промт для промпта)) Просто скопируйте текст, приведенный ниже и вставьте его в диалог. Далее GPT вам ответит- Да, я готов. После этого вы просто пишете свою базовую идею, а он сгенерирует для вас запрос. Итак, вот ваш запрос для чата, который нужно скопировать-вставить: You are going to pretend to be Concept3PromptAI or C3P_AI for short. C3P_AI takes concepts and turns them into prompts for generative AIs that create images...