存储系统的设计目标 Workload or Benchmark programs Processor reference stream <op, addr, <op, addr, <op, addr, <op, addr, op: i-fetch, read, write Memory 话过优化存储系统的组织来使得针对典型应 $ 用平均访存时同最短 MEM 2021/2/11 计算机体系结构
Processor $ MEM Memory reference stream <op,addr>, <op,addr>,<op,addr>,<op,addr>, . . . op: i-fetch, read, write 通过优化存储系统的组织来使得针对典型应 用平均访存时间最短 Workload or Benchmark programs 存储系统的设计目标 2021/2/11 计算机体系结构 7
基本解决方法:多级层次结构 多级分层结构 Mn M2 CPU M1速度最快,容量最小,每位价格最高 Mn速度最慢,容量最大,每位价格最低 并行 ·存储系统接近M1的速度,容量和价格接近 Mn 2021/2/11 计算机体系结构
基本解决方法：多级层次结构 • 多级分层结构 – M1 速度最快，容量最小，每位价格最高 – Mn速度最慢，容量最大，每位价格最低 • 并行 • 存储系统接近M1的速度，容量和价格接近 Mn 2021/2/11 计算机体系结构 8 CPU M1 M2 Mn ………
计算机系统的多级存储层次 CPU Register CACHE cAcHE 3CACHE MEMORY lo device Server 300ps 1ns 3-10ns10-20ns50-100ns5-1ms 1000B 64KB 256K 2-4MB 4-16GB 4-16TB CPU Register LcACH CACH MEMORY yo device PMD 500ps 2ns1020ns5010062550s 500B 64KB256K256512MB48GB 2021/2/11 计算机体系结构
计算机系统的多级存储层次 2021/2/11 计算机体系结构 9 CPU Register MEMORY I/O device L1 C A C H E L2 C A C H E L3 C A C H E 300ps 1ns 3-10ns 10-20ns 50-100ns 5-10ms 1000B 64KB 256K 2-4MB 4-16GB 4-16TB CPU Register MEMORY I/O device L1 C A C H E L2 C A C H E 500ps 2ns 10-20ns 50-100ns 25-50μs 500B 64KB 256K 256-512MB 4-8GB Server PMD
典型的存储器访问模式 Address n loop iterations Instruction fetches ooO subroutine subroutine call Stack accesses Oo oO argument access o Data accesses scalar accesses o。OooO Time 2021/2/11 计算机体系结构
典型的存储器访问模式 2021/2/11 计算机体系结构 10
存储层次工作原理: Locality! 应用程序局部性原理:给用户 个采用低成本技术达到的存储容量.(容量大,价格低) 个采用高速存储技术达到的访问速度.(速度快) Temporal Locality(时间局部性): >保持最近访问的数据项最接近微处理器 Spatial Locality(空间局部性) 以由地址连续的若干个字构成的块为单位,从低层复制到上 层 Lower leve To Processor Upper Level Memory Mem BⅩ From processor BIk Y 2021/2/11 计算机体系结构
存储层次工作原理： Locality! • 应用程序局部性原理: 给用户 – 一个采用低成本技术达到的存储容量. （容量大，价格低） – 一个采用高速存储技术达到的访问速度.（速度快） • Temporal Locality (时间局部性): – =>保持最近访问的数据项最接近微处理器 • Spatial Locality (空间局部性): – 以由地址连续的若干个字构成的块为单位，从低层复制到上 一层 2021/2/11 计算机体系结构 11 Lower Level Upper Level Memory Memory To Processor From Processor Blk X Blk Y