并行计算机访存模型 历些毛子科枝大》 XIDIAN UNIVERSITY UMA (Uniform Memory Access) ■均匀存储访问模型 处理器 P1 P2 系统互连 (总线,交叉开关,多级网络) l/0 SM1 SMm 共享存储器 ■物理存储器被所有处理器均匀共享 ■所有处理器访问任何存储所用时间相同 ■每台处理器可带私有高速缓存 8
并行计算机访存模型 UMA(Uniform Memory Access) 均匀存储访问模型 物理存储器被所有处理器均匀共享 P1 P2 Pn I/O SM1 SMm 共享存储器 处理器 ( ) 系统互连 总线 , 交叉开关 , 多级网络 8 所有处理器访问任何存储所用时间相同 每台处理器可带私有高速缓存
并行计算机访存模型 历些毛子种枝大等 XIDIAN UNIVERSITY NUMA(Non-uniform Memory Access) ■非均匀存储访问模型 >被共享的存储器在物理上分布在所有的处理器中,所有本地存储器的集合 组成了全局地址空间 >处理器访问存储器的时间不同 访问本地存储器LM或群内共享存储器CSM较快,而访问外地的存储器 或全局共享存储器GSM较慢 >此即非均匀存储访问名称的由来 LM GSM Global Shared Memory 互 CSM Cluster Shared Memory LM 连网 模型一,名词解释→ LM Local Memory LM P Processor 共享本地存储模型 9
并行计算机访存模型 NUMA(Non-uniform Memory Access) 非均匀存储访问模型 LM1 P1 LM2 P 2 LMn Pn 互 连 网 络 共享本地存储模型 ... ... 模型一,名词解释 LM = Local Memory P = Processor ➢ 处理器访问存储器的时间不同 - 访问本地存储器LM或群内共享存储器CSM较快,而访问外地的存储器 或全局共享存储器GSM较慢 GSM = Global Shared Memory CSM = Cluster Shared Memory 9 ➢ 此即非均匀存储访问名称的由来 ➢ 被共享的存储器在物理上分布在所有的处理器中,所有本地存储器的集合 组成了全局地址空间
并行计算机访存模型 历些毛子件枝大 XIDIAN UNIVERSITY ■非均匀存储访问模型(NUMA),模型二 GSM GSM GSM 模型二,名词解释→ 全局互连网络 GSM Global Shared Memory CSM Cluster Shared Memory CIN Cluster Interconnection P CSM P CSM Network P=Processor C CSM P e CSM I N N CSM P CSM 群1 群V 层次式机群模型 10
并行计算机访存模型 非均匀存储访问模型 (NUMA),模型二 全局互连网络 层次式机群模型 GSM GSM ... GSM P C I N CSM P P CSM CSM 群1 P CSM 群N P P CSM CSM ... ... ... ... C I N 模型二,名词解释 GSM = Global Shared Memory CSM = Cluster Shared Memory CIN = Cluster Interconnection Network P = Processor 10
并行计算机访存模型 历粤毛子种技大” XIDIAN UNIVERSITY COMA(Cache-Only Memory Access) ■全高速缓存存储访问 >各处理器节点中没有复杂的存储层次结构,全部高速缓存组成了全局地址 空间 >利用分布的高速缓存目录D进行远程高速缓存的访问 > 使用COMA时,数据开始时可任意分配,因为在运行时它最终会被迁移 到需要使用它们的地方 名词解释→ 互连网络 D=Directory C=Cache D D D P Processor P
并行计算机访存模型 COMA(Cache-Only Memory Access) 全高速缓存存储访问 互连网络 D C P D C P D C P 名词解释 D = Directory C = Cache P = Processor ➢ 各处理器节点中没有复杂的存储层次结构,全部高速缓存组成了全局地址 空间 11 ➢ 利用分布的高速缓存目录D进行远程高速缓存的访问 ➢ 使用COMA时,数据开始时可任意分配,因为在运行时它最终会被迁移 到需要使用它们的地方
并行计算机访存模型 历些毛子种技大学 XIDIAN UNIVERSITY CC-NUMA (Coherent-Cache Nonuniform Memory Access) ■高速缓存一致性非均匀存储访问模型 >大多数使用基于目录的高速缓存一致性协议 >保留SMP结构易于编程的优点,也改善常规SMP的可扩放性 节点1 节点N SMP Symmetric Multi-processor P/C P/C Mem P/C P/C Mem DSM Distributed 总线或交叉开关 总线或交叉开关 Shared-Memory RC Remote Cache I/O NIC DIR,RC l/0 NIC,DIR,RC NIC Network Interface Circuitry 系统互连网路 DIR=高速缓存目录 12
并行计算机访存模型 CC-NUMA(Coherent-Cache Nonuniform Memory Access) 高速缓存一致性非均匀存储访问模型 I/O NIC,DIR,RC 系统互连网路 P/C P/C Mem I/O NIC,DIR,RC P/C P/C Mem 节点 1 节点 N 总线或交叉开关 总线或交叉开关 SMP = Symmetric Multi-processor DSM = Distributed Shared-Memory RC = Remote Cache NIC = Network Interface Circuitry DIR = 高速缓存目录 ➢ 大多数使用基于目录的高速缓存一致性协议 ➢ 保留SMP结构易于编程的优点,也改善常规SMP的可扩放性 12