Найти в Дзене
11 тыс подписчиков

📌Деплой и поддержка сотни ML-моделей


Неплохая статья о том, развивать и сопровождать большое количество ML-моделей, много практических советов и реальных кейсов.

Также рассказывается о создании сервиса, который позволяет решать такие задачи:
⏩Деплой модели должен занимать один день. Это позволит нам значительно снизить общий time-to-market наших моделей.

⏩Деплой — типовая операция. Для стандартного деплоя модели не нужно привлекать разработчика.

⏩Должен быть единообразный API для доступа к моделям, который можно легко интегрировать и описывать на разных языках программирования. Последнее было особенно важно, потому что у всех заказчиков свой стек технологий.

⏩Нужны инструменты для observability наших решений. Притом они должны быть «из коробки», чтобы можно было задеплоить модель и легко получить инструменты для ее поддержки.


Около минуты