SaladCloud, распределенная среда облачных вычислений, известная использованием игровых ПК, в недавнем сравнительном исследовании задействовали 750 графических процессоров потребительского класса для генерации более 9,2 млн изображений в течение 24 часов при общей стоимости всего 1872 долларов.
Этот впечатляющий результат соответствует примерно 4 954 изображениям, полученным за один доллар, что свидетельствует о практичности и доступности использования графических процессоров потребительского класса для генеративных выводов ИИ.
Для развертывания использовалось «управляемое контейнерное развертывание» SaladCloud, ориентированное на узлы с совместимыми GPU, минимум 4 vCPU и 8 ГБ оперативной памяти.
За 24 часа работы было обработано 9 274 913 запросов на генерацию изображений с минимальным количеством отказов, среднее время цикла генерации изображений составило 7 секунд.
Данная демонстрация показала, что графические процессоры потребительского класса представляют собой альтернативу GPU корпоративного класса, таким как A10, A100 или H100, для таких приложений, как генеративные ИИ.