2 месяца назад
Lamoda ускорила обработку данных Spark вдвое, заменив Python-скрипты LLM-разметкой
Разметка больших массивов данных вручную отнимает у аналитиков десятки часов, а типовые скрипты на Python ломаются, когда строк становится больше нескольких тысяч: инженеры Lamoda собрали инструмент, который делает эту работу через LLM прямо внутри Apache Spark. Lamoda показала конкретный результат: время обработки данных Spark на сопоставимом объёме сократилось с десяти до пяти часов, то есть почти вдвое, без смены оркестратора и хранилищ. Дата-инженер Lamoda Tech Дмитрий Иванов описал, как команда пришла к «llm_markup», Spark-приложению для массовой разметки текстов через вызовы к LLM API...
4 месяца назад
SMC-разметку теперь можно гонять в Python
Нашли Python-библиотеку для Smart Money Concepts: она считает FVG, BOS, CHoCH, Order Blocks, Liquidity, Swing Highs/Lows и предыдущие максимумы/минимумы по OHLC-свечам. Это удобно, когда SMC/ICT-логику нужно перенести из ручной разметки на графике в код: бэктесты, сканеры, торговые дашборды или исследовательские скрипты...