Генеративные модели ИИ шагают по планете, и многие индивидуальные пользователи предпочитают экспериментировать с ними на своих ПК, без использования облачных сервисов. Специализированные ускорители вычислений, на которых производители делают тысячи процентов прибыли, стоят баснословных денег, поэтому энтузиастам приходится приобретать обычные видеокарты. Причем годятся не все, а только те, что обладают внушительным объемом видеобуфера, и они также стоят дорого.
Однако, есть вариант сэкономить, обратившись к рынку APU. Последние обладают возможностью выделять достаточное количество гигабайт для запуска ИИ-приложений, включая, например, Stable Diffusion, FastChat, MiniGPT-4, Alpaca-LoRA, Whisper, LLM и LLaMA. Исследователи смогли аллоцировать 16 ГБ для GPU, содержащемся в Ryzen 4600G. Отмечается, что некоторые модели материнских плат ASRock позволяют выделять вплоть до 64 ГБ памяти.
Платформа AMD Radeon Open Compute или ROCm официально не поддерживает APU Ryzen, но сторонние компании, такие как BruhnBruhn Holding, разрабатывают собственные экспериментальные пакеты ROCm, совместимые с APU. Таким образом, последние могут работать с ПО PyTorch и TensorFlow, что делает возможным запуск на них большинства ИИ-программ.
Что касаетcя производительности, то на создание изображения, размером 512x512 пикселей, с настройками по умолчанию, у Ryzen 5 4600G ушла 1 минута и 50 секунд. Это отличный показатель, который демонстрируют топовые CPU. Разумеется сборка системы на APU с нуля для просчета ИИ-моделей смысла не имеет, но текущие обладатели Ryzen 5600G и 4600G могут опробовать возможности искусственного интеллекта перед более серьезным погружением в этот мир.
