Источник: Nuances of Programming Обычно дата-инженерам приходится получать данные из нескольких источников, а затем очищать их и агрегировать. Часто эти процессы необходимо применять на больших объемах данных. Сегодня мы рассмотрим одно из самых фундаментальных понятий в области вычислительных технологий и в частности дата-инженерии  —  параллельные вычисления. С их помощью современные приложения могут обрабатывать огромные объемы данных за относительно небольшие промежутки времени. Обсудим преимущества параллельных вычислений в целом, а также их недостатки...

Давайте “возьмём быка за рога” и изобразим такую вот схему, иллюстрирующую наивный процесс распараллеливания программы (кстати, схему, претендующую на всеобщность, рис. 3). Вспоминая Алана Тюринга, мы (привычно) говорим о программы как о последовательности отдельных законченных машинных команд (кстати, утверждение о возможности составления любых, сколь угодно сложных программ, из единичных и ограниченных команд составляет один из важнейших результатов научной деятельности Тюринга). Заявленная наивность...