3并行性的等级 并行处理中的粒度可分为五个等级,即作业级、任务级、例行程序 或子程序级、循环和迭代级及谲句和拎令级,妪图λ.1所示。 层次1 作业级(程序) 层次2 任务级(程序段或过程) 层次3子任务级(例行程序或子程序) 层次4 循环和迭代 层次5 语句和指令 图7.1不同层次的并行性
3.并行性的等级 并行处理中的粒度可分为五个等级,即作业级、任务级、例行程序 或子程序级、循环和迭代级及语句和指令级,如图7.1所示。 图7.1 不同层次的并行性
通常,并行处理就是在这些层次的任何级或多级上开发并行 性。层次越高,并行处理的粒度也就越大;相反,层次越低,并行处理 的粒度也就越小。一般而言,粗粒度的并行开发主要采用MIMD方式 细粒度的并行性开发主要采用SⅠIMD方式 并行处理技术是从单处理机的并行处理逐步发展而来,包括采用 多功能部件、使CPU与O重叠操作、流水线方式、多道程序技术以及 分时等
通常,并行处理就是在这些层次的任何一级或多级上开发并行 性。层次越高,并行处理的粒度也就越大;相反,层次越低,并行处理 的粒度也就越小。一般而言,粗粒度的并行开发主要采用MIMD方式; 细粒度的并行性开发主要采用SIMD方式。 并行处理技术是从单处理机的并行处理逐步发展而来,包括采用 多功能部件、使CPU与I/O重叠操作、流水线方式、多道程序技术以及 分时等
7.1.2并行性的开发途径 在一个计算机系统中,开发并行性的途径有多种,大体上可归纳为 以下三种。 1时间重叠 时间重叠( Time interleaving)是在并行性概念中引入时间因素 使多个处理过程在时间上相互错开,轮流重叠使用同一套硬件设备的各个 部分,以加快程序的执行过程。细粒度流水线就是这种并行性的典型代表。 2资源重复 资源重复( Resource replication)是在并行性概念中引入空间因素 即重复设置硬件设备来提供并行操作的途径和系统可靠性。例如后面所要 介绍的使用∧个完全相同的处理器构成的SIMD阵列机就是具体的例子。另 外,人们常说的热备份和多机容错技术也是重复使用某些资源,组成冗余 部件,以提高系统的可靠性
7.1.2 并行性的开发途径 在一个计算机系统中,开发并行性的途径有多种,大体上可归纳为 以下三种。 1.时间重叠 时间重叠(Time interleaving)是在并行性概念中引入时间因素, 使多个处理过程在时间上相互错开,轮流重叠使用同一套硬件设备的各个 部分,以加快程序的执行过程。细粒度流水线就是这种并行性的典型代表。 2.资源重复 资源重复(Resource replication)是在并行性概念中引入空间因素, 即重复设置硬件设备来提供并行操作的途径和系统可靠性。例如后面所要 介绍的使用n个完全相同的处理器构成的SIMD阵列机就是具体的例子。另 外,人们常说的热备份和多机容错技术也是重复使用某些资源,组成冗余 部件,以提高系统的可靠性
3.资源共享 资源共享( Resource sharing)是用软件的办法让多个任务 按定的时间顺序轮流使用同一套资源,以提高利用率。例如操作 系统中的多道程序和分时系统就是利用软件的方法使多个用户或程 序共享CPU、主存储器和外部设备等硬件资源。 并行性的开发可分为粗粒度和细粒度两种。粗粒度并行性开 发主要采用的是软件方法。比如在作业(或程序)级,通过对并行 算法的分析来确定可以并行操作的作业(或程序);在任务级,是 通过软件对任务进行分解,将其中的子任务,乃至子任务中的例行 程序、子程序及可以并行操作的循环找出来,分配给不同的处理器 并行处理。 开发细粒度的并行性主要涉及到指令级及指令的内部操作 因而与处理器的外特性和内特性紧密相关,因此主要采用硬件的方 法来实现。随着RISC技术的发展,超级标量机、超长指令字、超级 流水线等技术成为这一方向的发展趋势
3. 资源共享 资源共享(Resource sharing)是用软件的办法让多个任务 按一定的时间顺序轮流使用同一套资源,以提高利用率。例如操作 系统中的多道程序和分时系统就是利用软件的方法使多个用户或程 序共享CPU、主存储器和外部设备等硬件资源。 并行性的开发可分为粗粒度和细粒度两种。粗粒度并行性开 发主要采用的是软件方法。比如在作业(或程序)级,通过对并行 算法的分析来确定可以并行操作的作业(或程序);在任务级,是 通过软件对任务进行分解,将其中的子任务,乃至子任务中的例行 程序、子程序及可以并行操作的循环找出来,分配给不同的处理器 并行处理。 开发细粒度的并行性主要涉及到指令级及指令的内部操作, 因而与处理器的外特性和内特性紧密相关,因此主要采用硬件的方 法来实现。随着RISC技术的发展,超级标量机、超长指令字、超级 流水线等技术成为这一方向的发展趋势
7.2SMD阵列机 7.2.1SIMD阵列机的基本结构 7.2.2阵列机并行算法 7.2.3SIMD阵列机的特点 7.24并行存储器无冲突访问
7.2 SIMD阵列机 7.2.1 SIMD阵列机的基本结构 7.2.2 阵列机并行算法 7.2.3 SIMD阵列机的特点 7.2.4 并行存储器无冲突访问