Найти в Дзене
Аналитика данных

Сказка про модель из старого сервера (Каша из топора)

Шёл как-то дата-саентист с очередного мита по поводу разработки новой предсказательной модели. Притомился в пути, данные гигабайтные, а вычислительных мощностей катастрофически не хватает. Решил зайти в кабинет отдела IT-закупок, постучал в кабинет. – Уважаемые коллеги, помогите с ресурсами для стратегически важного проекта! Дверь отворила начальница отдела. – Заходи, заходи. – А нет ли у вас, хозяйка, возможности выделить бюджет под новый мощный сервер для обучения моделей? Желательно с парой-тройкой A100. Без него наш пайплайн — как веб-сокет без интернета. – Ох, милый! У отдела IT-закупок бюджеты расписаны на кварталы вперёд, пожаловалась начальница и прикинулась бедной. – Сама сегодня смету защищала, всё урезали! Никаких свободных средств, хоть плачь. Ничего не могу сделать. – Ну, нет так нет, – саентист говорит. Тут он приметил в углу пылящийся старый сервер, списанный и забытый, видавший ещё времена Windows Server 2003. – Коли нет нового железа, , сварю-ка я модельку и из этого…

Шёл как-то дата-саентист с очередного мита по поводу разработки новой предсказательной модели. Притомился в пути, данные гигабайтные, а вычислительных мощностей катастрофически не хватает. Решил зайти в кабинет отдела IT-закупок, постучал в кабинет.

– Уважаемые коллеги, помогите с ресурсами для стратегически важного проекта! Дверь отворила начальница отдела.

– Заходи, заходи.

– А нет ли у вас, хозяйка, возможности выделить бюджет под новый мощный сервер для обучения моделей? Желательно с парой-тройкой A100. Без него наш пайплайн — как веб-сокет без интернета.

– Ох, милый! У отдела IT-закупок бюджеты расписаны на кварталы вперёд, пожаловалась начальница и прикинулась бедной.

– Сама сегодня смету защищала, всё урезали! Никаких свободных средств, хоть плачь. Ничего не могу сделать.

– Ну, нет так нет, – саентист говорит. Тут он приметил в углу пылящийся старый сервер, списанный и забытый, видавший ещё времена Windows Server 2003.

– Коли нет нового железа, , сварю-ка я модельку и из этого… «legacy-топора».

Начальница IT-закупок руками всплеснула:

– Как так из этого ретрокомпьютера модель учить? У него, я смотрю, оперативки меньше, чем у моего умного чайника!

– А вот смотрите, – сказал саентист, – дайте-ка мне доступ в дата-центр и права админа.

Закупщица, скептически хмыкнув, выдала временный токен. Саентист пропылесосил сервер от пыли вековой, подключил его к Kubernetes-кластеру, запустил базовые процессы, поднял на нём Docker-контейнер и начал «варить» данные, как синьор-повар.

Закупщица на графики на мониторе глядит, глаз не сводит.

Достал саентист ноутбук, начал мониторить метрики через Grafana. Глянул на первые логи.

– Ну, как? – спрашивает закупщица, увидев первую кривую обучения.

– Скоро будет первый прототип, – саентист отвечает, – жаль вот только, что оптимизировать алгоритм нечем – нужен бы более быстрый SSD-накопитель.

– SSD-то у нас как раз есть пара штук про запас, поставь!

Cаентист установил SSD, снова запустил обучение.

– Лучше! Теперь бы сюда да добавить оперативной памяти для работы с большими выборками!

Закупщица засуетилась, принесла из склада несколько планок RAM.

– Бери, улучшай как надобно!

Установил саентист память. Обучал, обучал модель, смотрит – точность растёт. Закупщица на графики во все глаза смотрит, оторваться не может.

– Ох, и модель получается точная! – саентист восхищается. – Как бы сюда да подключить ещё одну видеокарту для ускорения – было бы и вовсе превосходно!

Нашлись у закупщицы и лишние видеокарты.

Ускорили обучение.

– Ну, коллега, теперь готовь отчёт для руководства да запускай пилот на реальных данных: станем результаты показывать!

– Вот уж не думала, что из списанного сервера можно получить эдакую мощную модель! – дивится закупщица.

– Саентист! А когда же мы этот старый сервер обратно списывать будем? Он же своё отработал?

– Да, видите ли, он теперь ядро нашего нового вычислительного кластера, – отвечал саентист, – буду его ещё масштабировать да на нём новые проекты запускать!

Тотчас включил сервер в официальную IT-инфраструктуру, распростился с удивлённой хозяйкой IT-бюджета и пошёл к архитектору обсуждать расширение.

Вот так-то саентист и модель запустил, и сервер новый из старого получил 🙂