对象存储并行文件系统小文件性能优化研究

J4 ›› 2013, Vol. 35 ›› Issue (12): 8-13.

对象存储并行文件系统小文件性能优化研究

周恩强，董勇，张伟，卢宇彤

（国防科学技术大学高性能计算国家重点实验室,湖南长沙 410073）

收稿日期:2013-08-11 修回日期:2013-10-15 出版日期:2013-12-25 发布日期:2013-12-25
基金资助:
国家自然科学基金资助项目（61120106005）；国家863计划资助项目（2012AA01A301）

Optimization of small file access on
object based parallel file system

ZHOU Enqiang，DONG Yong，ZHANG Wei，LU Yutong

(State Key Laboratory of High Performance Computing,National University of Defense Technology,Changsha 410073,China)

Received:2013-08-11 Revised:2013-10-15 Online:2013-12-25 Published:2013-12-25

摘要/Abstract

摘要：

对象存储并行文件系统在高性能计算领域被广泛采用，虽然大文件访问性能优异，但其小文件访问存在局限性。通过分析典型对象存储并行文件系统下的小文件的访问开销，采用服务端小文件专用缓存和基于对象命名关联性预取的方法提高小文件的缓存命中率，降低对象存储架构下小文件的读取延迟。基于Lustre并行文件系统实现了该方法。实际系统测试表明，该方法可显著提高小文件访问性能，其中小文件打包性能提升最大可达88%。

关键词: 并行文件系统, 缓存, 对象存储, 文件预取

Abstract:

Object based parallel file systems are widely used in current supercomputers for its excellent performance of large file at the expense of its lower efficiency on small file access. Through analysis of the overhead of small file access on typical object based parallel file system, a serverside small file aware cache is proposed in order to reduce file access latency by aggressively prefetching a set of related files object and improving small file hit rate. This method is implemented and evaluated in Lustrefile system which is a popular parallel file system for HPC system. The experiments in real system show that it can improve the performance of small file access dramatically, especially with the reduction of up to 88% of total cost in scenario of file archiving operation.

Key words: parallel file system;cache;object storage;prefetching

周恩强，董勇，张伟，卢宇彤. 对象存储并行文件系统小文件性能优化研究[J]. J4, 2013, 35(12): 8-13.

ZHOU Enqiang，DONG Yong，ZHANG Wei，LU Yutong. Optimization of small file access on
object based parallel file system [J]. J4, 2013, 35(12): 8-13.

[1]	杨乾明, 邵靖杰, 曾聘, 袁梦, 宋卓秦, 邓秋严, 张剑锋, 王勇. 一种基于Crossbar结构的分布式共享缓存交换机设计与实现[J]. 计算机工程与科学, 2025, 47(6): 951-957.
[2]	陈楚依, 罗雄飞, 鄢宝彤, 冯宇轩, 马可, 乔颖. 面向多层递归域名系统的自适应缓存管理方法[J]. 计算机工程与科学, 2025, 47(5): 823-831.
[3]	董勇, 邬会军, 杨梨花, 张伟, 王睿伯, 周恩强. 基于天河互连的并行文件系统网络驱动[J]. 计算机工程与科学, 2025, 47(3): 392-399.
[4]	安昕辰. DSP处理器二级缓存的结构优化研究[J]. 计算机工程与科学, 2025, 47(1): 10-17.
[5]	李扬, 尹大鹏, 马自强, 姚梓豪, 魏良根, . 结合决策树和AdaBoost的缓存侧信道攻击检测[J]. 计算机工程与科学, 2024, 46(3): 440-452.
[6]	王强, 孙彦洁, 齐星云, 徐佳庆. Bowtie 2-NUMA:具有NUMA体系结构适应性的基因序列比对应用#br#[J]. 计算机工程与科学, 2024, 46(12): 2117-2127.
[7]	王炜琛, 涂海洋, 王伟明, 赵晓博. 基于Zynq的SDI视频图像分割系统[J]. 计算机工程与科学, 2021, 43(10): 1796-1802.
[8]	贾朝阳, 张敦博, 王琼, 沈立. 一种高效的压缩Page Walk Cache结构[J]. 计算机工程与科学, 2020, 42(9): 1521-1528.
[9]	李仁刚, 任智新, 黄广奎, 孙颉, 王峰, 张闯, . 面向数据库查询加速的异构体系结构设计与实现[J]. 计算机工程与科学, 2020, 42(12): 2169-2178.
[10]	宋振龙, 李小芳, 李琼, 谢徐超, 魏登萍, 董勇, 王睿伯. BeeGFS并行文件系统性能优化技术研究[J]. 计算机工程与科学, 2020, 42(10高性能专刊): 1765-1773.
[11]	张建伟1，王旭辉2，蔡增玉2，黄万伟1，杜春锋2. 基于势能冷却的内容中心网络缓存替换算法[J]. 计算机工程与科学, 2019, 41(9): 1612-1617.
[12]	文凯1,2,3,谭笑1,2. D2D网络中的缓存副本数布设算法[J]. 计算机工程与科学, 2019, 41(8): 1421-1425.
[13]	方娟，魏泽琳，于婷雯. 一种基于Inter-warp异构性的缓存管理与内存调度机制[J]. 计算机工程与科学, 2019, 41(5): 788-795.
[14]	于美菊，李茹. 基于动态内容流行度的NDN缓存决策和替换策略研究[J]. 计算机工程与科学, 2019, 41(2): 275-280.
[15]	曹立强,罗红兵. 并行科学计算应用中采样数据的聚集I/O[J]. 计算机工程与科学, 2018, 40(9): 1534-1539.