Qualcomm нашли новый способ запуска генеративных ИИ-моделей на мобильных устройствах. Раньше для таких задач требовался мощный компьютер с видеокартой или ресурсы ЦОД, но теперь это можно сделать на Android-телефоне Samsung Galaxy S23 с процессором Snapdragon 8 Gen 2.
На примере модели Stable Diffusion, которая создает изображения по текстовому описанию, была поставлена задача на создание изображения супермилого пушистого кота-воина в доспехах. ИИ-модель справилась с этой задачей всего за 14,42 секунды, близко к времени, которое показывают десктопы. Для оптимизации работы на мобильном процессоре было применено "квантование" данных - округление до заданных значений. Это позволило улучшить производительность модели и снизить потребление ресурсов оперативной памяти и энергии. Разрешение выходных изображений составляет 512 х 512 пикселей, как и в стандартной версии модели Stable Diffusion.
Запуск мощных ИИ-моделей на мобильных устройствах без необходимости использовать сторонние вычислительные ресурсы значительно расширяет возможности их использования. Модель Stable Diffusion может использоваться для создания и редактирования изображений, копирования стилей, масштабирования и других задач. Компания планирует перенести другие генеративные ИИ-модели на устройства с процессорами Snapdragon 8 Gen 2.