通过部分Warp重组消除GPGPU控制流的不一致性

计算机工程与科学

通过部分Warp重组消除GPGPU控制流的不一致性

沈立，杨耀华，王志英

（国防科技大学计算机学院，湖南长沙 410073）

收稿日期:2019-01-19 修回日期:2019-03-23 出版日期:2019-08-25 发布日期:2019-08-25
基金资助:
国家自然科学基金（61472431）

Eliminating control divergence on

GPGPU via partial warp regrouping

SHEN Li,YANG Yao-hua,WANG Zhi-ying

(School of Computer,National University of Defense Technology, Changsha 410073,China)

Received:2019-01-19 Revised:2019-03-23 Online:2019-08-25 Published:2019-08-25

摘要/Abstract

摘要：

GPU已被广泛应用于当前的高性能计算系统中，但其性能却受到程序运行时不同控制流方向的严重制约。这一问题通常通过动态Warp重组技术来解决，即将一个或多个Warp内沿相同控制流执行的线程组合在一起，构成一个新的 Warp。但是，这类方法普遍存在一些不必要的重组，引入了较大的额外性能开销。分析了线程重组的性能开销，并提出了一种称作“部分重组”的性能优化方法。这种方法在保证重组效率的前提下，避免了对包含活跃线程数量较多的Warp的重组，从而有效减少了线程重组引入的性能开销。测试结果表明，部分重组能够在保证重组效率的前提下带来较为明显的性能提升。

关键词: GPGPU, 控制流不一致, Warp重组, 框架

Abstract:

GPUs have been widely used in current high-performance computing systems. However, their performance is severely constrained by the different directions of control flow during runtime. In response to this problem, warp regrouping methods are generally applied to combine the threads that execute the same branch path within one or more warps, thus obtaining a new warp. However, some unnecessary reorganization existing in these methods introduces additional performance overheads. We analyze the sources of regrouping overhead and propose a partial warp regrouping approach. Under the premise of ensuring certain efficiency, it reduces the reorganization of warps with a large number of active threads so as to avoid performance overhead. Experimental results indicate that the proposed method can significantly reduce unnecessary overheads while ensuring regrouping efficiency.

Key words: GPGPU, control divergence, warp regrouping, framework

沈立，杨耀华，王志英. 通过部分Warp重组消除GPGPU控制流的不一致性[J]. 计算机工程与科学.

SHEN Li,YANG Yao-hua,WANG Zhi-ying.

Eliminating control divergence on

GPGPU via partial warp regrouping

[J]. Computer Engineering & Science.

[1]	孙庆骁, 刘轶, 杨海龙, 王一晴, 贾婕, 栾钟治, 钱德沛. GNNSched：面向GPU的图神经网络推理任务调度框架[J]. 计算机工程与科学, 2024, 46(01): 1-11.
[2]	吴希, 李志强, 杨东晗. Grover量子搜索算法的线路优化[J]. 计算机工程与科学, 2023, 45(03): 420-425.
[3]	曹军航, 黄瑞章, 白瑞娜, 赵建辉, . DCsR：一种面向中文文本的集成式纠错框架[J]. 计算机工程与科学, 2023, 45(02): 370-380.
[4]	雷国庆, 马驰远, 王永文, 郑重. 一种轻量级的处理器核性能分析框架[J]. 计算机工程与科学, 2021, 43(02): 199-204.
[5]	谢旻, 张伟, 周恩强, 董勇. 面向天河互连网络的可扩展通信框架实现技术[J]. 计算机工程与科学, 2020, 42(10高性能专刊): 1720-1729.
[6]	夏火松, 孙泽林. 基于自编码器和集成学习的半监督异常检测算法[J]. 计算机工程与科学, 2020, 42(08): 1440-1447.
[7]	翟俊海1,2，齐家兴1,2,沈矗1,2,宋丹丹1,2,王谟瀚1,2,田石1,2. 基于MapReduce和Spark的大数据主动学习比较研究[J]. 计算机工程与科学, 2019, 41(10): 1715-1722.
[8]	何登平1，2，3，何宗浩1,2，李培强1,2. 基于Spark的并行化高效用项集挖掘算法[J]. 计算机工程与科学, 2019, 41(10): 1723-1730.
[9]	李安民,计卫星,廖心怡，高建花，谈兆年，王一拙，石峰. 一种面向异构计算的结构化并行编程框架[J]. 计算机工程与科学, 2019, 41(03): 424-432.
[10]	杨先圣1,姜磊1，彭雄2，周倩1，刘菊君1. 基于大数据的异常检测方法研究[J]. 计算机工程与科学, 2018, 40(07): 1180-1186.
[11]	刘子骏1，何炎祥1,2，张军1,3，李清安1,2，沈凡凡1. 一种面向GPGPU的行为感知的存储调度策略[J]. 计算机工程与科学, 2017, 39(06): 1011-1021.
[12]	丁思远，洪宇，朱珊珊，姚建民，朱巧明. 基于Tri-Training的事件关系分类方法研究[J]. J4, 2015, 37(12): 2345-2351.
[13]	杨祥森1，金君2，王鹏1，马召贵1，亢永敢1. 基于Xeon Phi平台的波动方程叠前深度偏移[J]. J4, 2015, 37(05): 907-913.
[14]	王淑芬1,高军礼1,邹普1，宋海涛2. 基于Hadoop的广域网分布式主题爬虫系统框架[J]. J4, 2015, 37(04): 670-675.
[15]	杨冬菊1 ，王菁1，蒋贵凰2. eGovCloud：一种基于云服务的电子政务框架[J]. J4, 2014, 36(11): 2067-2073.