Пока все спали, на Apple произошла небольшая революция!!!

Apple Mashine Learning team выпустила в релиз OpenSource MLX. То есть нативный для Apple Silicon фреймворк для машинного обучения. (намасломаслил вам тут).

Пост в блоге участника: https://twitter.com/awnihannun/status/1732184443451019431

Код в репозитории: https://github.com/ml-explore/mlx

Что это все умеет делать? А, например:

The MLX examples repo has a variety of examples, including:

• Transformer language model training.

• Large-scale text generation with LLaMA and finetuning with LoRA.

• Generating images with Stable Diffusion.

• Speech recognition with OpenAI's Whisper.

Из важного вообще: например, у него API очень похоже на PyTorch, то есть миграция будет приятной, как Pandas у NVidia. Ставится реально в одну строчку: pip install mlx.

Все очень подробно (что неожиданно) есть в документации: https://ml-explore.github.io/mlx/build/html/quick_start.html с массой примеров.

Ну теперь-то мы посмотрим, как на М1-3, наконец, появятся нормальные вычисления, а не вот это все.

Около минуты

6 декабря 2023