文档摘要：随着晶体管缩小速度的减缓,单GPU(GraphicsProcessingUnits)的性能提升已经变得越来越具有挑战性,因此,多GPU系统成为了提高GPU系统性能的主要手段.然而,由于片外物理设计的制约,多GPU系统中处理器间的带宽不均衡导致了非一致存储访问(Non-UniformMemoryAccess,NUMA)问题,严重影响多GPU系统的性能.为了减少非一致存储访问所导致的性能损失,本文首先分析了非一致存储访问出现的原因,并对现有的非一致存储访问解决方案进行了对比.针对不同维度的非一致存储访问,本文从减少远程访问流量和提升远程访问性能两个方向出发,对非一致存储访问的优化方案进行了总结.最后,结合这些方案的优缺点,提出了未来多GPU系统非一致存储访问优化的发展方向.
Abstract：Duetotheslowdownoftransistorscaling,ithasbecomeincreasinglydifficulttoenhancetheperformanceofasingleGPU(GraphicsProcessingUnits).Therefore,multi-GPUsystemshavebecomethemainmeanstoimprovetheperformanceofGPUsystems.However,duetotheconstraintsofoff-chipphysicaldesign,thebandwidthimbalancebe-tweenprocessorsinmulti-GPUsystemsleadstonon-uniformmemoryaccess(NUMA)problems,whichseriouslyaffectstheperformanceofmulti-GPUsystems.Inordertoreducetheperformancelosscausedbynon-uniformmemoryaccess,thispaperfirstanalyzesthecausesofnon-uniformmemoryaccessandcomparesexistingsolutionsfornon-uniformmemoryac-cess.Fornon-uniformmemoryaccesswithdifferentdimensions,thispapersummarizesoptimizationsolutionsfornon-uni-formmemoryaccessfromtwodirections:reducingremoteaccesstrafficandimprovingremoteaccessperformance.Finally,combiningtheadvantagesanddisadvantagesofthesesolutions,thispaperproposesthefuturedevelopmentdirectionofnon-uniformmemoryaccessoptimizationformulti-GPUsystems.
作者：李晨 刘畅 葛一漩 郭阳Author：LIChen LIUChang GEYi-xuan GUOYang
作者单位：国防科技大学计算机学院,湖南长沙410073
刊名：电子学报 ISTICEIPKU
Journal：ActaElectronicaSinica
年，卷(期)：2024, 52(5)
分类号：TP393
关键词：多GPU系统 非一致存储访问 GPU访存
Keywords：multi-GPUsystem non-uniformmemoryaccess GPUmemoryaccess
机标分类号：TP311.13X196U448.27
在线出版日期：2024年7月22日
基金项目：多GPU系统非一致存储访问优化:研究进展与展望[
期刊论文] 电子学报--2024, 52(5)李晨 刘畅 葛一漩 郭阳随着晶体管缩小速度的减缓,单GPU(GraphicsProcessingUnits)的性能提升已经变得越来越具有挑战性,因此,多GPU系统成为了提高GPU系统性能的主要手段.然而,由于片外物理设计的制约,多GPU系统中处理器间的带宽不均衡导致...参考文献和引证文献
参考文献
引证文献
本文读者也读过
相似文献
相关博文
关键词：多GPU系统,非一致存储访问,GPU访存,
|
|
1
