论文摘要
随着计算机技术的迅猛发展,采用新型存储管理和高性能互联技术设计与构建数以千计节点的高效存储系统已成为可能。但如何在同样硬件配置下,发挥软件更高并行性,以解决随着存储需求的增长导致出现的系统性能瓶颈和扩展性问题始终是个难题。当前与大规模存储集群配套的是可扩展并行文件系统,如GPFS、PVFS、Ceph、Lustre和PanFS等,而且全球Top 500超级计算的存储方案基本上采用的都是上述这些系统。因此重点研究了高效并行文件系统的架构及其实现方法,为使所设计的并行文件系统更好地支持高性能计算,由并行文件系统与应用的接口层入手,还研究了:通过扩展接口语义来优化系统性能,以满足高性能计算的I/O需求;通过感知布局优化并行作业I/O的访问模式以更好适应数据密集型可扩展计算;并行文件系统对新型并行计算的支持方法;并行文件系统中冗余编码并行化问题等。设计并实现了一种基于对象的并行文件系统CapFS,具有如下特点:可定制的数据布局模式、基于对象的远程直接数据访问和具有事务性持久化存储管理。提出了一种嵌套RAID模式的统一层次化数据布局模型和算法,实现了客户端驱动的可定制数据布局,并保持POSIX语义的完整性。针对对象存储设备规范中存在的扁平名字空间服务和可扩展属性管理问题,提出了一种基于内核级微数据库管理引擎并结合文件系统的高效对象访问与持久化存储管理方法,实现了变长对象持久化存储和结构化属性的高效查询。提出一种基于对象存储协议和远程进程调用RPC的对象直接访问方法,可向存储客户端提供多网络设备共享访问模式,并提供独立数据表示层来保证对象存储节点的多协议协商。原型系统CapFS的参数设置和整体性能的测试结果表明该系统具有较好的性能和可扩展性。分析发现传统文件系统接口(如:POSIX)语义不能很好地支持高性能计算需求,而并行计算应用的I/O访问模式通常由访问大量小文件、不连续的数据块组成,而且强调文件并发访问、非邻接访问和高元数据率,同时要求I/O协同访问。为使存储系统的I/O模式更好地支持新型计算,采用对POSIX接口进行扩展的办法,从接口扩展和语义保持角度出发,提出了包括基于文件共享描述符的I/O并发优化、面向非连续I/O的接口支持、延迟与批量元数据操作优化和保持POSIX语义的布局控制等四种接口扩展方法。测试表明扩展后的接口较已有方法具有更好的性能。分析并行计算框架MapReduce中的I/O模式发现,传统并行计算框架存在着中间数据拷贝和通信代价过高的缺点。分析了传统分布式文件系统和本文实现的并行文件系统CapFS在支持并行计算框架的异同和优劣,提出了扩展CapFS参数化布局的I/O感知接口实现MapReduce计算的框架模型"MapReduce over CapFS"。I/O基准测试和实际数据密集型应用验证了该模型利用存储节点计算资源进行数据处理可有效降低中间数据规模和减少计算节点同存储系统之间的数据传输量。此外,计算密集、I/O密集与计算和I/O都密集的三类应用测试结果还表明该模式尤其对包含I/O密集的应用可提供更高的系统加速比。提出利用并行计算框架分析与设计系统纠删编码算法的方法,给出了一种基于MapReduce模型的冗余编码并行算法,提高了系统冗余编码效率,保障系统可靠性。基于该算法,在CapFS中实现了一个异步的冗余编码计算框架,可支持不同粒度的冗余配置,具体包括单个文件级策略、多用户多文件组策略和直接面向存储设备的对象级、对象分组和分区粒度的集成。通过编码损耗率模型分析了算法复杂度,并通过Yahoo提供的元数据Trace对系统时空复杂度进行了仿真试验,结果显示了按照文件、用户文件分组和分区对象集合三种逐步增大粒度的冗余计算对提高空间利用率的变化,表明可在数据可靠性和维护代价上自适应调整。在通常高性能计算规模下,因冗余计算由后端存储节点异步完成,且校验数据不占用应用I/O传输,并行纠删码冗余计算开销较低。
论文目录
相关论文文献
- [1].基于Apache Ftpserver的可自定义文件系统的文件服务器[J]. 软件 2020(07)
- [2].快速恢复ExFAT文件系统数据[J]. 网络安全和信息化 2019(05)
- [3].基于机器学习的动态分区并行文件系统性能优化[J]. 集成技术 2020(06)
- [4].油田设备文件系统数据存储的优化研究与分析[J]. 石化技术 2017(01)
- [5].云文件系统中纠删码技术的研究与实现[J]. 计算机科学与探索 2013(04)
- [6].基于虚拟文件系统的安全存储技术的研究[J]. 微电子学与计算机 2013(06)
- [7].盘点文件系统[J]. 科技信息(科学教研) 2008(18)
- [8].并行文件系统研究综述[J]. 小型微型计算机系统 2008(09)
- [9].处理CentOS 7启动错误[J]. 网络安全和信息化 2020(10)
- [10].分布式文件系统与传统文件系统的比较研究[J]. 电子技术与软件工程 2015(23)
- [11].基于虚拟文件系统的诱骗主机安全方案研究[J]. 计算机与现代化 2013(02)
- [12].基于镜像的在线文件系统检查工具的研究与实现[J]. 计算机系统应用 2013(08)
- [13].海量文件系统中基于特征实现文件多维度浏览[J]. 计算机工程与科学 2017(05)
- [14].基于堆叠文件系统的云计算存储优化[J]. 计算机工程 2014(12)
- [15].一种分布式并行文件系统的介绍及在海洋地震数据处理中的应用[J]. 电脑与信息技术 2015(04)
- [16].对象存储并行文件系统小文件性能优化研究[J]. 计算机工程与科学 2013(12)
- [17].一种嵌入式实时操作系统高可靠文件系统[J]. 微电子学与计算机 2014(03)
- [18].一种适用于集群文件系统分级存储的分布式锁设计与分析[J]. 计算机研究与发展 2012(S1)
- [19].并行文件系统简介及主流产品对比[J]. 邮电设计技术 2012(07)
- [20].Linux Ext2fs文件系统分析[J]. 电脑知识与技术 2010(17)
- [21].面向容灾的强安全性虚拟文件系统[J]. 计算机工程 2009(07)
- [22].蓝鲸集群文件系统中资源交互一致性协议[J]. 计算机工程 2008(11)
- [23].基于准文件系统的高速大容量数据存储系统设计[J]. 机械与电子 2008(10)
- [24].一种基于多应用智能卡文件系统的研究与实现[J]. 计算机应用与软件 2014(09)
- [25].并行文件系统下数据迁移功能的实现[J]. 北京信息科技大学学报(自然科学版) 2012(05)
- [26].基于文件系统过滤驱动的文档透明加解密系统的研究[J]. 电脑编程技巧与维护 2011(04)
- [27].面向并行文件系统的性能评估及相对预测模型[J]. 软件学报 2011(09)
- [28].并行文件系统的应用探讨[J]. 软件 2010(11)
- [29].基于文件系统过滤驱动的文件加密系统设计[J]. 微电子学与计算机 2009(04)
- [30].面向云文件系统的隔离性度量方法研究[J]. 计算机工程与科学 2017(07)