Не успели мы поговорить и о базовых вещах в сфере комплаенс, как я уже знакомлю вас с новостями из мира бизнес-безопасности и управления рисками. Впрочем, может оно и к лучшему?;)
Однако, начну немного издалека...
Переход с Pandas на Spark и Scala не настолько труден, насколько вы можете предположить, при этом в итоге ваш код будет выполняться быстрее, и, скорее всего, качество его написания тоже возрастёт.