Сегодня — немного общеизвестных сведений о параллельных вычислениях. О чем идет речь? Об использовании более, чем одного вычислительного устройства, для решения задачи. Ничего нового: еще во времена арифмометров расчеты вели параллельно несколько расчетчиков. Очень многое зависит от алгоритма, и тут могут возникнуть сюрпризы. Например, уравнение бегущей волны в виде "производная по времени равна производной по пространственной переменной" можно решить аналитически: это f(t+x), где f(x) — начальное распределение...

До сих пор исследования проводились для случая размера гранул параллелизма, равных одной машинной инструкции (fine-grained parallelism, микропараллелизм), причины этого приведены ранее. Там же показаны преимущества (но и трудности) формального обнаружения гранул параллелизма максимально большого размера (макропараллелизм). ● Кстати – а почему гранулы параллелизма большого размера (макропараллелизм) используются в вычислительных кла́стерах? Ответ несло́жен – кластер представляет собой многомашинный...