Закон Амдала

Уровни параллельности

1. Уровень заданий. Независимые задания одновременно на разных процессорах.

2. Уровень программ. Одна задача выполняется на множестве процессоров.

3. Уровень команд. Фазы одной команды выполняются на нескольких процессорах.

4. Уровень битов. Биты слова обрабатываются одновременно (бит-параллельность).

Параллельность уровня задания

Основное средство реализации - многопроцессорные и многомашинные ВС. Возможно и на однопроцессорной ВС. Параллельность обеспечивается за счет одновременной работы процессора и системы ввода/вывода.

Параллельность уровня программ

1. В программе есть независимые участки, выполняемые параллельно.

2. В пределах программного цикла, если отдельные итерации не зависят друг от друга. For I: = 1 to N do A(I): = B(I) + C(I)

Параллельность уровня команд

Когда обработка нескольких команд или выполнение этапов одной команды может перекрываться во времени. Параллельность и конвейеризация. Совмещение операций за счет присутствия нескольких копий устройств (АЛУ).

Закон Амдала

В каждой программе есть фрагмент, который должен выполняться последовательно (одним процессором). Формула, отражающая зависимость ускорения вычислений на МПВС, от числа процессоров и соотношения между последовательной и параллельной частями программы. Показатель сокращения времени вычислений - «ускорение» (S).

Постановка: объем решаемой задачи неизменный Программный код решаемой задачи состоит из двух частей: последовательной и распараллеливаемой. Доля последовательных операций - f, где 0 < f< 1.

Рис. 12.1. К постановке задачи по закону Амдала. Рис. 12.2. Графики зависимости ускорения от:

а – доли последовательных вычислений; б – числа

процессоров

Если в программе 10% последовательных операций (то есть f=0, 1), то, сколько бы ни было процессоров, убыстрения программы более чем в десять раз не получить даже теоретически.