Итак, мы начинаем..! Автор предста́вленной серии статей полагает, что время для публикаций на данную (достаточно непростую) тему подошло́ как раз сейчас – появляется всё больше людей, интересующихся не только сиюсеку́ндными, сугубо пове́рхностными чувствами и событиями, но и более глубокими вопросами окружающего Бытия́. В широком смысле серия публикаций предназначена для любителей естествознания из произвольных общественных групп – от школьников выпускных классов до любых субъектов, обладающих свойством быть “Исследователями в глубине души́ своей”...

В этой статье мы разберём другую составляющую гибридных параллельных вычислений, а именно — вычисления с использованием распределённой памяти. Процессы и кластеры В предыдущей части мы узнали, что вычисления с совместной памятью — это использование потоков для разделения задачи на несколько небольших частей, которые могут выполняться параллельно в каждом узле кластера. Память разделена между всеми потоками, отсюда и название — совместно используемая память. Напротив, распараллеливание в вычислениях с распределённой памятью осуществляется через несколько процессов, разделённых на потоки...