Там на Runpod завезли RTX 6000 PRO с 96 ГБ VRAM. Та самая видюха в форм-факторе обычной 2-слотовой карты, но по цене $10 000. А на ранподе аренда $1,79/час. При этом H100 стоит $2,39/час, а А100 $1,64/час, но у них по 80 ГБ VRAM. То есть это самое дешевое решение с таким объёмом VRAM внутри одной видюхи. Остальные потребуют multi-GPU, и там будут свои ограничения. Вместе с этим Runpod в бета-режиме запустили Hub, через который AI-приложения можно разворачивать в пару кликов в serverless режиме, то есть с оплатой только за использование, а не по времени. Runpod Обзор (Level1) Обзор (Der8auer)
Там на Runpod завезли RTX 6000 PRO с 96 ГБ VRAM. Та самая видюха в форм-факторе обычной 2-слотовой карты, но по цене $10 000. А на ранподе аренда $1,79/час.
При этом H100 стоит $2,39/час, а А100 $1,64/час, но у них по 80 ГБ VRAM. То есть это самое дешевое решение с таким объёмом VRAM внутри одной видюхи. Остальные потребуют multi-GPU, и там будут свои ограничения.
Вместе с этим Runpod в бета-режиме запустили Hub, через который AI-приложения можно разворачивать в пару кликов в serverless режиме, то есть с оплатой только за использование, а не по времени.
Обзор (Level1)
Обзор (Der8auer)
