Новая эра профессионалов: Мак на базе M5 может стать первым серийным компьютером для тяжелых нейросетей
Apple опубликовала в своем блоге Machine Learning Research данные о производительности процессора M5 при работе с локальными языковыми моделями. Результаты намекают, что Маки на базе этого чипа могут стать первыми серийными машинами, способными развернуть даже крупные модели искусственного интеллекта без танцев с бубном. А это, в свою очередь, способно изменить саму концепцию профессионального компьютера — теперь тяжелые задачи лежат не столько в области монтажа видео или трехмерной графики, сколько в запуске и работе с нейросетями.
Для тестирования компания использовала собственный фреймворк MLX — открытый инструмент для запуска моделей машинного обучения Маках с М-процессорми. Главное преимущество этой системы заключается в использовании унифицированной архитектуры памяти чипов Apple: данные не перемещаются между центральным и графическим процессорами, что экономит время и энергию. В составе MLX есть пакет MLX LM, который дает возможность загружать большинство моделей с платформы Hugging Face и запускать их прямо на компьютере, без отправки запросов в облако. Система даже поддерживает квантование — метод сжатия, благодаря которому крупные модели работают быстрее и требуют меньше памяти.
Apple сравнила время генерации первого токена (ответа на запрос) на ноутбуках MacBook Pro с процессорами M4 и M5, тестируя несколько открытых моделей серии Qwen разного размера — от 1,7 до 30 миллиардов параметров. Секрет производительности M5 кроется в новых графических нейронных ускорителях GPU Neural Accelerators, которые специализируются на операциях матричного умножения — основе работы нейросетей. Результаты показали, что новый чип генерирует первый токен на 19-27% быстрее предшественника благодаря в том числе и увеличенной пропускной способности памяти: у M5 она составляет 153 гигабайта в секунду против 120 у M4. При генерации изображений разница еще заметнее: M5 справляется с задачей в 3,8 раза быстрее. Компания также отметила, что ноутбук MacBook Pro с 24 гигабайтами памяти легко справляется с моделями на 8 миллиардов параметров в полной точности или с 30-миллиардной моделью в сжатом виде, при этом нагрузка на память не превышает 18 гигабайт.
Эти цифры намекают на серьезный сдвиг в позиционировании топовых конфигураций компьютеров Mac. Если раньше максимальные объемы памяти и производительность требовались в основном для работы с видео в разрешении 8K или сложными трехмерными сценами, то теперь главным потребителем ресурсов становится искусственный интеллект. Локальный запуск моделей с десятками миллиардов параметров — это уже не экзотика для энтузиастов, а вполне рабочий сценарий для разработчиков, исследователей и даже продвинутых пользователей. А значит, Apple получает новый мощный аргумент для продажи дорогих конфигураций: не просто «больше памяти для красивых картинок», а «возможность развернуть серьезную нейросеть прямо на столе». Похоже, эра облачного искусственного интеллекта может закончиться быстрее, чем многие ожидали.
