异构平台多流编程机制的性能模型研究

计算机工程与科学

异构平台多流编程机制的性能模型研究

彭林，张鹏，方建滨，黄春，唐滔

（国防科技大学计算机学院，湖南长沙 410073）

收稿日期:2018-10-18 修回日期:2018-11-14 出版日期:2019-07-25 发布日期:2019-07-25
基金资助:
国家重点研发计划（2017YFB0202004）

Performance modeling of multi-stream programming

mechanism on heterogeneous platforms

PENG Lin，ZHANG Peng，FANG Jianbin，HUANG Chun，TANG Tao

（School of Computer,National University of Defense Technology,Changsha 410073,China）

Received:2018-10-18 Revised:2018-11-14 Online:2019-07-25 Published:2019-07-25

摘要/Abstract

摘要：

多流编程机制为异构众核加速器提供流水、资源划分等多种资源使用方式，但如何选择有效使用方式目前缺乏指导。基于异构众核处理器Intel MIC上的hStreams，提出了针对单应用多流程序多硬件分区执行的性能模型，分析不同配置下多流程序性能差异的原因，指出了影响多流程序性能的关键因素，提出多流程序划分优化策略，同时所提性能模型能够帮助判断算法实现的效果。实验结果表明，性能模型与多流配置实际测试结果误差小于1%，根据性能模型指导调优稠密矩阵乘的多流程序，比单流程序获得了5.83%的性能提升。

关键词: 多流编程, 流水线, 资源划分, hStreams, 异构平台

Abstract:

Multi-stream programming mechanism can fully provide a variety of resource utilization methods such as pipelining and resource partitioning for heterogeneous many-core accelerators, but there is currently no effective guidance on how to choose effective resource utilization methods. Based on hStreams on heterogeneous manycore processor Intel MIC, we design a performance model for multi-stream program’s multihardware partitioning execution. Based on our performance model, we can identify the reasons for the performance difference of multi-stream programs under varied configurations, find out key factors that affect the performance, and provide a partitioning optimization strategy for multi-stream programs. In addition, it can also judge the effect of algorithm implementation. Our evaluation results show that the error between the estimated results of the performance model and the actual test results of multi-stream configuration is within 1%. Compared to the single-streamed version, our model also realizes a 5.83% performance improvement when guiding multi-stream programs of the dense matrix multiplication.

Key words: multi-stream programming, pipelining, resource partitioning, hStreams, heterogeneous platform

彭林，张鹏，方建滨，黄春，唐滔. 异构平台多流编程机制的性能模型研究[J]. 计算机工程与科学.

PENG Lin，ZHANG Peng，FANG Jianbin，HUANG Chun，TANG Tao.

Performance modeling of multi-stream programming

mechanism on heterogeneous platforms

[J]. Computer Engineering & Science.

[1]	姜晶菲, 何源宏, 许金伟, 许诗瑶, 钱希福. NM-SpMM：面向国产异构向量处理器的半结构化稀疏矩阵乘算法[J]. 计算机工程与科学, 2024, 46(07): 1141-1150.
[2]	魏一, 杨智杰, 铁俊波, 石伟, 周理, 王耀, 王蕾, 徐炜遐. 基于蜂鸟E203的多级动态分支预测器[J]. 计算机工程与科学, 2024, 46(05): 785-793.
[3]	朱麒瑾, 陈小文, 鲁建壮, . 可变流水级SM4加解密算法硬件设计及FPGA实现[J]. 计算机工程与科学, 2024, 46(04): 606-614.
[4]	刘汝霖, 杨惠, 李韬, 吕高锋, 孙志刚. 面向装备平台的敏捷交换芯片设计与实现[J]. 计算机工程与科学, 2024, 46(02): 200-208.
[5]	秦文强, 吴仲城, 张俊, 李芳, . 基于异构平台的卷积神经网络加速系统设计[J]. 计算机工程与科学, 2024, 46(01): 12-20.
[6]	孙婷婷，黄皓，王嘉伦，翁楚良. 面向CPU-GPU异构系统的数据分析负载均衡策略[J]. 计算机工程与科学, 2019, 41(03): 417-423.
[7]	张昆,郑方,谢向辉. 以访存为中心的阵列众核处理器核心流水线设计[J]. 计算机工程与科学, 2017, 39(12): 2167-2175.
[8]	杨秋吉，于俊清，莫斌生，何云峰. 面向Storm的数据流编程模型与编译优化方法研究[J]. 计算机工程与科学, 2016, 38(12): 2409-2418.
[9]	宁平. FPGA上实现CRC16纠错编码并行计算的探讨[J]. J4, 2014, 36(06): 1023-1027.
[10]	刘云华，刘巍. 异构装配信息的统一表达方法研究[J]. J4, 2014, 36(01): 145-149.
[11]	张光达,王友瑞,石伟,王志英,陆洪毅. PABLE:一种异步总线的设计与实现[J]. J4, 2013, 35(5): 34-40.
[12]	韩津生1,林家骏1,周文锦2, 叶建武3. 基于FPGA的AES核设计[J]. J4, 2013, 35(3): 80-84.
[13]	徐莹，徐磊，姜恺. 三维NavierStokes方程分步法的并行算法在异构平台上实现初探[J]. J4, 2012, 34(9): 33-39.
[14]	徐莹，徐磊. 三维Navier-Stokes方程的差分-谱方法混合法在GPU上的实现与优化[J]. J4, 2012, 34(8): 53-58.
[15]	石伟,苏博,任洪广,王志英. 一种低功耗异步乘法器的研究与实现[J]. J4, 2012, 34(5): 73-77.