13,7 тыс читали · 1 неделю назад
На взломанной PS5 запустили нейросеть с 27 млрд параметров - она выдает около 21 токена в секунду
Пользователь Reddit под ником AdIllustrious7246 превратил взломанную PlayStation 5 в локальный сервер для языковых моделей. Он доработал проект PS5LM и запустил на консоли сжатую версию Qwen3.8-27B с 27 млрд параметров. В представленном тесте скорость генерации составила 20,9 токена в секунду. Оригинальный PS5LM выполнял вычисления на центральном процессоре и располагал примерно 6 ГБ памяти. Энтузиаст перенес llama.cpp в полноценное приложение для PS5, задействовав графический процессор через Vulkan и драйвер RADV...