В сфере машинного обучения (ML) и больших языковых моделей (LLM) рынок графических процессоров доминирует NVIDIA благодаря её платформе CUDA. Однако проект, описанный в статье "Making AMD GPUs competitive for LLM inference", поднимает важный вопрос: можно ли сделать AMD GPU столь же эффективными для работы с LLM, как их аналоги от NVIDIA? Эта инициатива не только расширяет возможности использования AMD GPU, но и усиливает конкуренцию на рынке, что может положительно сказаться на инновациях и доступности технологий...

Искусственный интеллект обошёл PyTorch в GPU-бенчмарках Команда Стэнфордского университета показала, что большие языковые модели способны автоматически создавать очень эффективные GPU-ядра, которые в ряде случаев работают быстрее стандартных функций популярного фреймворка машинного обучения PyTorch...