В ближайшие годы генеративные модели искусственного интеллекта и общая производительность языковых моделей большого объема (LLM) будут играть важную роль при оценке эффективности центральных и графических процессоров. Последнее исследование Intel подчеркивает производительность LLM на флагманской видеокарте Intel Arc A770 объемом 16 ГБ для настольных ПК.Видеокарта Intel Arc A770 стоимостью около 300 долларов сравнивается по производительности с основной моделью NVIDIA GeForce RTX 4060 объемом 8 ГБ. Согласно отчету Intel, в тестах с использованием библиотеки IPEX-LLM для PyTorch видеокарта Arc A770 демонстрирует на 70% более высокую производительность в токенах в секунду по сравнению с RTX 4060. Это стало возможным благодаря оптимизациям для оборудования Intel и использованию ускорения XMX AI. Результаты также включают последнюю модель Llama 3 LLM.
Кроме того, более емкая 16 ГБ видеопамять Intel Arc A770 лучше подходит для рабочих нагрузок ИИ, чем 8 ГБ у RTX 4060. Тем не менее, CUDA от NVIDIA по-прежнему считается стандартом в области ИИ. Но достижения Intel в этой области делают Arc A770 привлекательным вариантом для тех, кто ищет мощное и доступное решение для задач ИИ.
В целом, генеративный ИИ и производительность LLM будут ключевыми критериями при оценке эффективности современных ЦП и GPU в ближайшем будущем.
