Как мы развивали аналитику в enterprise-компании.
Меня зовут Андрей, я директор департамента управления данными и бизнес-аналитики в OCS – одном из крупнейших в России ИТ-дистрибьюторов. До этого у меня уже был опыт работы с данными в таких компаниях, как Газпром-Нефть и ЛУКОЙЛ. Однако бизнес-процессы дистрибьютора более специфичны: их многослойность и разветвленность усложняет работу по построению любой аналитики. Создание в подобной компании аналитической платформы Business Intelligent (BI) это крайне интересный опыт. Я расскажу, почему это наиболее простое и верное решение на старте работы с данными, что оно дает компании для развития и как помогает начать цифровую трансформацию.
Конечно, это лично наш опыт, - тем не менее он может быть полезен многим компаниям, которые еще только задумываются о расширении своих возможностей в отчетности и аналитике, но уже понимают, что традиционных отчетов в ERP системе (например, 1С), а также сводной аналитики в Excel им уже недостаточно. Итак, начнем!
Немного о компании
Так как специфика бизнеса очень сильно влияет на построение аналитики, расскажу немного подробнее о компании OCS и том ИТ-ландшафте, на котором мы начинали свою работу. OCS - дистрибьютор компьютерного и телеком-оборудования, который организует поставки в РФ со всего мира, со штатом порядка 2000 человек и бизнесом на территории всей России. В этом году компании исполнилось 28 лет. За это время мы обросли большим количеством информационных систем и накопили огромный объем данных. И, как и в большинстве компаний с развитой ИТ-инфраструктурой, у нас делалось много всего хорошего для бизнеса под любой запрос, но почти полностью отсутствовала документация об этих накопленных данных. Как итог – возникли следующие проблемы:
- Знание о данных хранилось только в головах специалистов
- Мы накопили множество противоречивых, дублирующих или неполных данных, о которых ничего не знали
- Культура работы с качеством данных не всегда была на высоте
- Отсутствовала система мастер-справочников в любом общепринятом виде
- Для создания отчетов сотрудникам приходилось собирать данные сразу из нескольких систем – на это уходило много времени
А почему BI?
На выбор решения, подходящего именно нам, мы потратили год и выбирали для себя методы работы с данными, на которых мы будем делать нашу аналитику. Выбор нашего решения обусловлен только личными запросами и ограничениями. В принципе, любое решение из большой тройки (Qlik, Tableu, Power BI) реализует одинаковые возможности с точки зрения решения задач аналитики. Различия только в вопросе цены и религиозных взглядов на конкретный продукт, поэтому в дальнейшем я не буду акцентировать внимание на платформе и поговорим только о самой технологии.
В начале у нас были только масса SQL серверов с данными, много желания что-то сделать, но не было четкого понимания, как именно реализовать задумку. Почему именно BI, если у нас уже был OLAP, web-отчеты, reporting, отчеты в DAX и 1С, и конечно же, великий и ужасный Excel? Проще говоря, у нас в компании не было информационного вакуума и совсем уж вопиющей проблемы с получением данных – зачем же в таком случае был нужна еще и BI-аналитика? Тем более, что в ИТ-среде существуют мнения о BI, как о «распиаренной фикции». Тут есть несколько конкретных моментов, как минимум некоторые из которых не учитывают опытные ИТ-специалисты, когда пишут обличающие статьи о BI.
Мы должны всегда помнить, что работаем для бизнес-заказчиков, и делать должны то, что они хотят (в конце концов, именно они платят деньги за весь этот банкет), понятным им образом, быстро, красиво (ну или хотя бы просто наглядно) и так, чтобы они могли этим пользоваться сразу и сами. По этой причине сразу отпадает OLAP, потому что по опыту нашей компании им пользовались единицы наиболее упорных и любопытных, большинство же считали его слишком сложным и просто не замечали.
Почти все остальные инструменты сложны и не быстры в разработке, а также крайне трудоемки в доработках, что сильно усложняет быструю поставку аналитики. А без скорости не будет массовости. Excel хорош всем, кроме автоматического поддержания актуальности данных в отчете, а так же ограничен максимальным объемом обрабатываемых данных. Он медленный и вообще безумно сложен при объединении хотя бы нескольких источников вместе (Power Query конечно работает, но уже и он не помогает в Excel, когда данных хотя бы несколько десятков тысяч строк).
Ключевые преимущества BI в начале работы:
- Наглядность. Если вы научитесь понимать заказчика и показывать ему нормальную визуализацию данных, то коллеги вообще забудут и думать про Excel. Им уже ничего кроме BI будет не нужно.
- Простота. Очень большое заблуждение, что пользователи сами захотят что-то «крутить» и настраивать. В подавляющем большинстве задач сотрудникам вообще не интересно, как сделана аналитика, они хотят здесь и сейчас видеть, что именно происходит по интересующей их задаче. Это все. Если ответ сейчас цифра «5», а час назад это была цифра «3» - их это вполне устроит, даже если они не понимают почему именно так. Есть задача – есть ответ. Ничего лишнего. Главное помнить, подавляющее большинство сотрудников совсем не аналитики, они хотят «как в iPhone», и BI с этим отлично справляется.
- Быстрота доработок. Мы можем очень быстро собрать «под капотом» отчета большое количество разных источников (главное, чтобы они логически были связаны), и еще подключить excel, и сделать все, что угодно. И нам не надо долго ждать программистов, и все можно мгновенно переделать, что-то добавить, перенастроить, перекрасить. Коллеги до сих пор удивляются, что отчеты делаются на их глазах и потом «живут» сами, а они только пользуются результатом. Легко и быстро сделать связанную аналитику любой сложности – это бесценно.
Как правильно приучить заказчика к BI?
По моему опыту, главное заблуждение самоуверенных разработчиков в том, что они умнее и «лучше знают», а пользователи «примитивны и ничего не понимают». Но в этом и проблема: пользователи из бизнеса не являются ИТ-специалистами, им нужен результат. Вы должны понять, что им нужно, а не навязывать свое компетентное мнение. И сделать это можно только работая вместе с ними, проходя шаг за шагом этапы создания продукта, когда они сами видят, как это работает и что они получают.
И вот тут наступает то самое чудо, они начинают понимать, что может продукт и что они хотят. И начинает появляться интерес, осмысленные задачи, и удовлетворение от достижения желаемого результата. А еще им очень важно получать этот самый результат быстро. Когда наступает критическая ситуация (очередной локальный кризис) и бухгалтера хотят сию секунду видеть всю динамику работы с просроченной дебиторской задолженностью, коммерсанты - иметь возможность анализировать историю каждого клиента, видеть его оплаты и заказы, понимать изменение его долгов, потому что без этого появляются невероятные риски что-то продать и не получить деньги, или остановить отгрузки клиенту, который вполне может договориться и расплатиться. И им «горит», у них нет времени ждать даже несколько недель. Минимальная аналитика должна быть готова и стабильно работать сама уже через пару дней. Никакая команда разработки здесь вам не поможет. А вот BI сотворит чудо.
Общая информация по отчетам за день
BI как стартовая площадка для цифровой трансформации
Цифровая трансформация - это не просто эволюция ИТ. Это целостное изменение бизнеса, затрагивающее всю организацию. У этого понятия нет четкого определения, и в общих чертах его можно охарактеризовать, как трансформацию системы управления, обеспечиваемую цифровыми технологиями. Опять все очень «мутно», но есть одна конкретная особенность – в основе работы с цифровыми технологиями лежит работа с данными. Для выведения управления компанией и бизнес-процессами на новый уровень в первую очередь нужна осведомленность. Мы должны знать все обо всем и сейчас.
Построение комплексной аналитической платформы – это глаза, мозг и нервная система компании, она позволяет знать точно, что происходит, и принимать верные решения на основе данных и фактов, а не мнений «экспертов». И вот когда мы начали делать первые отчеты, то столкнулись с тем, что не знаем, что и где лежит, как это правильно взять, у нас появлялась масса противоречивых данных, были проблемы со справочниками. Подготовка источников для отчета в большинстве случаев занимала неделю и более.
Но по мере разработки отчетности мы не только вскрывали проблемы с данными, мы еще и начали понемногу их решать и описывать (иначе мы бы и не смогли сделать ни одного отчета). И по мере развития процесса мы все глубже погружались в проблему, и все лучше понимали ее, а главное – начали естественным образом вырабатывать подходящие нам решения для налаживания работ по управлению данными. Требования бизнеса естественным образом подталкивали разбирать в первую очередь наиболее важные данные, связанные с управленческой и специфической коммерческой отчетностью, формируя ядро, вокруг которого мы начали в дальнейшем строить и наше аналитическое хранилище, и систему управления данными. Но об этом мы поговорим в следующий раз.
Какой можно сделать вывод из нашего опыта?
BI не «серебряная пуля» и не «философский камень», превращающий металл в золото. Он в принципе дает все то же самое, что и инструменты, которые были до него. Но он решает очень актуальную проблему современности – постоянно растущие запросы бизнеса на разработку новых продуктов, в том числе аналитических. Их надо все больше, они все сложнее, и получать их хочется все быстрее. Наращивать штат разработчиков дорого, сложно, медленно. А BI – это наглядный пример успеха Low Code платформы для аналитики.
Подготовить специалиста BI относительно легко и дешево (мы учим сами, на рынке их либо нет, либо они приходят со странными, и, как правило, не обоснованными запросами), при этом такой специалист совмещает в себе еще и аналитика, работающего с бизнесом, и SQL разработчика. В нашем случае система построена так, что и со стороны SQL требуются минимальные знания, но мы получаем законченный цикл разработки в одном человеке. Получается максимально эффективная и легко масштабируемая команда, а еще - исключается «испорченный телефон» между разработкой и бизнесом.
Ну и феноменальная скорость получения готового продукта: сейчас, когда разработка аналитики и отчетности поставлены на поток, реализация типового отчета для занимает 1-2 дня. При этом отчет может использовать и десятки источников с данными из различных систем и бизнес-областей, иметь сложную логику дополнительных расчетов и разнообразную визуализацию данных. Ключевым в достижении высокой скорости разработки является уже готовая аналитическая среда с описанными витринами данных и правильное понимание задачи от заказчика. Конечно мы все слышим красивые рассказы от команд программистов о непрерывном цикле разработки, спринтах, быстрой поставке ценностей и еще очень много умных и важных слов. Но бизнесу нужен результат, пусть простой, примитивный, но быстро. И BI это наиболее легкий способ достичь его. За два года активной работы мы очень скромным коллективом (начинали с 3-х человек) организовали непрерывную разработку под различные бизнес-задачи аналитики и отчетности для всех уровней компании, от руководства до рядовых менеджеров по их сферам деятельности.
Сводная информация по использованию отчетов в компании
Сейчас на нашем сервере аналитики опубликовано более 400 отчетов различной сложности, от простых статистических данных до достаточно сложных аналитических платформ, использующих десятки источников и реализующих сложную логику расчетов и сопоставлений, рассылки по событиям, систему контроля инцидентов и еще много чего, что хочет заказчик для решения своей проблемы. Организовано регулярное обновление и поддержка, доработка и разработка новых отчетов. Количество пользователей отчетности в компании перевалило за 1000 человек и интерес к аналитике постоянно растет. Сейчас мы уже перевели этот проект в режим стабильного развития, сосредоточив основные усилия нашего подразделения на развитии новых технологий аналитики с использованием машинного обучения. Об этом подробно я расскажу уже в следующих статьях. Если вам интересна эта тема – поставьте плюс и, конечно, задавайте вопросы в комментариях.