分布式文件系统的组成 ●元数据和数据 ■元数据指文件的属主、访问权限和时间、扩展属性等 ■ 数据是文件的内容 ■元数据和数据分离的设计能够更好的保证数据的一致性和性能的可扩展性 元数据服务器(集群) ■解决文件的逻辑文件名和物理存放位置的映射关系 /home/myfile->(obj1 on dataserver1,obj2 on dataserevr2 ... ■ 控制文件访问权限 (set/get attr,set/get acl,chmod...) 客户 ■ 管理名字空间 lookup ,create,delete,mknod... 数据服务器(集群) 数据服务器数据服势器 致据服秀器 元致据国务集群 数据/O:read,write,.seek,create,delete 2022/8/24 高能物理暑期学校2020 11
分布式文件系统的组成 ⚫元数据和数据 ◼ 元数据指文件的属主、访问权限和时间、扩展属性等 ◼ 数据是文件的内容 ◼ 元数据和数据分离的设计能够更好的保证数据的一致性和性能的可扩展性 ⚫ 元数据服务器(集群) ◼ 解决文件的逻辑文件名和物理存放位置的映射关系 /home/myfile-> (obj1 on dataserver1, obj2 on dataserevr2 …) ◼ 控制文件访问权限 (set/get attr, set/get acl, chmod …) ◼ 管理名字空间 lookup ,create, delete,mknod … ⚫ 数据服务器(集群) ◼ 数据I/O:read, write, seek, create, delete 2022/8/24 高能物理暑期学校2020 11
分布式文件系统的O路径 客户端 ■ 实现POSX或者XROOTD数据访问协议,与服务器集群通信,完成上 层应用的/O请求调用 DAS FC-SAN iScsl·SAN NAS LinuxV年S LOV NFS/CIS LVM LVM Fileopen request NIC OSCI oSc3 MDC odeA (obi1.ct2☑ Metadta Server Write (ob 2) Paralld Bandwidh NAS Syate OST2 Odd blocks,even blodks 2022/8/24 高能物理暑期学校2020 12
分布式文件系统的I/O路径 ⚫ 客户端 ◼ 实现POSIX或者XROOTD数据访问协议,与服务器集群通信,完成上 层应用的I/O 请求调用 2022/8/24 高能物理暑期学校2020 12
数据分布和均衡 ●文件创建时,元数据服务器会根据文件的分条规则在1个或多个 存储设备上为文件创建1个或者多个对象 ■当存储设备水位差不多时,采用循环放置法 ■当设备水位相差很大时,采用加权循环放置法 ●新加入了存储设备,如何保证水位均衡和负载均衡? ■根据数据放置算法,持续的数据删除和写入可以保证存储水位最终均衡 ■这种自然选择的方法会导致新数据集中分布在新设备,老数据集中分布 在老设备上,一般管理员会通过后台数据迁移,手动均衡 2022/8/24 高能物理暑期学校2020 13
数据分布和均衡 ⚫文件创建时,元数据服务器会根据文件的分条规则在1个或多个 存储设备上为文件创建1个或者多个对象 ◼ 当存储设备水位差不多时,采用循环放置法 ◼ 当设备水位相差很大时,采用加权循环放置法 ⚫新加入了存储设备,如何保证水位均衡和负载均衡? ◼ 根据数据放置算法,持续的数据删除和写入可以保证存储水位最终均衡 ◼ 这种自然选择的方法会导致新数据集中分布在新设备,老数据集中分布 在老设备上,一般管理员会通过后台数据迁移,手动均衡 2022/8/24 高能物理暑期学校2020 13