检索结果-内蒙古大学图书馆

计算机学报 2019年第11期42卷 2447-2460页

作者：吴立垒陈荣亮罗力闫争争廖子菊迟利华刘杰国防科技大学并行与分布处理国家重点实验室长沙410073 中国科学院深圳先进技术研究院广东深圳518055 湖南交通工程学院高科技研究院湖南湘阴414600

Gauss-Seidel算法作为线性方程组的求解器,在并行计算领域具有广泛应用,而面向异构众核架构开发其细粒度并行性一直是具有挑战性的问题.针对非结构网格问题,基于代数分块并行思路提出了面向异构众核架构的块Gauss-Seidel/Jacobi算法,将... 详细信息

Gauss-Seidel算法作为线性方程组的求解器,在并行计算领域具有广泛应用,而面向异构众核架构开发其细粒度并行性一直是具有挑战性的问题.针对非结构网格问题,基于代数分块并行思路提出了面向异构众核架构的块Gauss-Seidel/Jacobi算法,将其作为区域分解算法的子区域求解器.面向神威太湖之光超级计算机的异构众核架构,设计并实现了该算法.为充分利用神威太湖之光国产SW26010芯片中每个CPE拥有的高速LDM(Local Data Memory),缓解通信瓶颈,设计了多行块通信打包、计算与通信重叠性能优化策略和丢弃非关键元素的低通信复杂性数值优化方法.数值实验结果显示,相较于串行Gauss-Seidel算法,优化后的块Gauss-Seidel/Jacobi算法预处理过程加速比最高可达到4.16倍.以1040核的测试数据为基准,在处理器核数达到33280时,块Gauss-Seidel/Jacobi预条件算法的并行效率达到61%.

关键词：非结构网格异构众核架构区域分解算法块Gauss-Seidel/Jacobi算法神威太湖之光

来源：评论

学校读者我要写书评

暂无评论

CUDA到异构众核架构的线程映射模型

引用

计算机工程 2012年第9期38卷 282-284,287页

作者：余勇庞建民单征刘晓楠解放军信息工程大学信息工程学院郑州450002

统一计算设备架构(CUDA)程序移植到其他异构众核架构时的线程数不匹配。为此,提出一种层次化的线程映射模型。在第1个映射层次上,将CUDA主机端线程和设备端线程分别映射到目标平台的主核和从核阵列上,在第2个映射层次上,采用线程循环的... 详细信息

统一计算设备架构(CUDA)程序移植到其他异构众核架构时的线程数不匹配。为此,提出一种层次化的线程映射模型。在第1个映射层次上,将CUDA主机端线程和设备端线程分别映射到目标平台的主核和从核阵列上,在第2个映射层次上,采用线程循环的方法消除协作线程阵列(CTA)中线程间同步操作,将整个CTA映射到从核阵列的一个从核上。实验结果表明,该模型能使CUDA程序在其他异构众核系统上得到有效运行。

关键词：代码移植图形处理器统一计算设备架构异构众核架构流式多处理器线程循环

来源：评论

学校读者我要写书评

暂无评论

基于异构众核架构的BSDE期权定价并行算法研究

基于异构众核架构的BSDE期权定价并行算法研究

引用

作者：王诏山东大学

学位级别：硕士

计算机学科的一大特点是软硬件相互促进发展,计算能力的需求刺激着硬件设备的更新换代,新的计算设备为更加复杂的算法实现提供可能。近些年来,这种特点在高性能计算领域体现的尤为明显。在计算成本一定的前提下,通过现有异构众核架构来... 详细信息

计算机学科的一大特点是软硬件相互促进发展,计算能力的需求刺激着硬件设备的更新换代,新的计算设备为更加复杂的算法实现提供可能。近些年来,这种特点在高性能计算领域体现的尤为明显。在计算成本一定的前提下,通过现有异构众核架构来充分挖掘计算潜力,是一种可行的解决方案,具有性价比高、利用率高的特点。其中,Nvidia GPU和Intel Xeon Phi是混合架构下两款最为流行的通用高性能计算设备。在金融工程领域,通过分析固有的经济运行规律,借助强大的数学工具,多种有效的计算模型被设计出来。金融问题的求解最直接的价值就是能带来巨大的经济收益,但此类问题的求解往往带有强烈的时效性,以对时间敏感的中高频金融交易为例,经济收益往往出现在毫秒级的时间窗口中,所以计算速度在其中显得尤为重要。此外,当新的金融算法提出之后,如何在瞬息万变的市场中根据实际情况进行修正与验证,也严重依赖高性能计算。因此,将高性能计算逐渐引入金融工程领域成为了一种必然。借助高性能计算设备,快速、准确、高效地求解复杂的金融问题是如今尤为重要的一种途径,相关领域的问题也成为了金融与计算机交叉领域的研究热点。本文充分利用异构众核架构计算性能高、计算边际成本低的优势,选取BSDE-二叉树欧式期权定价算法进行加速,基于有限的计算资源和良好的扩展性原则,对此类问题进行求解。其中,涉及的计算设备包括多核CPU、Nvidia GPU以及Intel Xeon Phi。为了充分利用现有设备的计算能力,实现良好的扩展性,我们设计了一种混合计算模型,包括任务层并行化和设备层并行化两个层次,使得计算设备能够根据自己的计算能力主动索取合适大小的计算任务,实现负载均衡的同时减少数据传输所带来的额外耗时。同时,基于已经提出的BSDE-二叉树欧式期权定价算法,我们通过增加并行粒度来进一步挖掘计算潜能,对原有的运算进行优化,降低了逻辑运算次数,针对新的架构体系进行进一步适配,提高算法的执行效率。最终实现了在大量期权计算任务场景中,多种异构的高性能计算设备组成的集群相互独立地执行各自的期权计算任务。框架在扩展性和加速比两方面都取得了很好的效果。在未来的工作中,我们将在现有研究的基础上,进一步提高框架的通用性,将更多的金融工程算法整合到框架中,为衡量金融风险、获取金融收益以及有效验证金融工程算法表现提供一个快速实现途径。并且进一步提高算法框架的通用性,透明计算设备,降低框架用户的编程成本。

关键词：异构众核架构期权定价 GPU XeonPhi CUDA

来源：评论

学校读者我要写书评

暂无评论

面向申威架构的OpenCL程序编译优化技术研究

面向申威架构的OpenCL程序编译优化技术研究

引用

作者：伍明川中国科学院大学

学位级别：博士

在世界超算TOP10中，多数系统都采用了异构架构，其中就包括我国的“神威·太湖之光”超级计算机。“神威·太湖之光”超级计算机搭载了40960个SW26010处理器，该处理器采用片上异构众核架构，浮点峰值达3.06TFlops。根据Roofl... 详细信息

在世界超算TOP10中，多数系统都采用了异构架构，其中就包括我国的“神威·太湖之光”超级计算机。“神威·太湖之光”超级计算机搭载了40960个SW26010处理器，该处理器采用片上异构众核架构，浮点峰值达3.06TFlops。根据Roofline模型，只有当应用的计算访存比大于芯片的算术密度(Flops/Byte)时，才有可能发挥其峰值计算能力。然而，SW26010处理器的算术密度超过主流GPU的3倍，在运行OpenCL等异构程序时，必将面临严重的访存瓶颈。针对这个挑战，本文研究了OpenCL程序的优化方法，通过Host-Kernel融合编译显著提高应用的计算访存比，通过带宽感知的循环分块优化方法提高带宽利用率，并在前沿的科学计算应用上进一步验证了优化的有效性。具体创新点如下:　　提出了一种参数制导的过程间分析算法来实现Host-Kernel的融合编译，打通了Host端程序和Kernel端程序的分析信息，扩大了优化范围。基于此，本文改善了支持国产异构众核处理器的OpenCL编译系统(SWCL)的分析效果，利用所提出方法进行跨主机内核的数据依赖分析，进而在将应用部署到多核组时可以减少不必要的同步操作。　　针对申威从核数据传输操作的多样性特点，本文提出了带宽感知的循环分块优化技术，协同考虑片上存储容量和带宽性能，选择合适的数据传输操作来提高有效带宽。本文建立了基于SW26010的带宽行为模型，并以此创建了数据获取操作的决策树，用于选择最佳的数据获取操作。基于此，本文提出了一种运行时循环分块框架，通过动态地数据操作以及分块选择来处理非规则的内存访问。相比于传统的循环分块方法，本方法能拿到平均26％，最高4×的加速效果。　　针对新一代神威超级计算机的结构特点，对基于MMEwald的泊松方程求解器实施从核优化，高效利用了申威从核的带宽以及计算能力，验证了本文研究在真实应用中的有效性。本文针对现实物理问题的性质和申威架构的硬件特征，设计实现了多级并行化方案以及多种有效的优化。与原始版本相比，优化后的执行速度提高了35倍。

关键词： OpenCL程序 Host-Kernel融合编译带宽感知循环分块优化异构众核架构

来源：评论

学校读者我要写书评

暂无评论

并行流场软件--CCFDv3.0设计及面向国产异构平台的实现

并行流场软件--CCFDv3.0设计及面向国产异构平台的实现

引用

作者：刘夏真中国科学院大学

学位级别：博士

随着国产超级计算机的浮点计算性能由千万亿次到百亿亿次，计算平台的体系结构逐渐由同构体系向异构体系融合发展，呈现出多层存储结构、复杂网络层次和多计算核心嵌套的体系特征。同时，实际重大工程中对数值模拟的精细需求以及多物理... 详细信息

随着国产超级计算机的浮点计算性能由千万亿次到百亿亿次，计算平台的体系结构逐渐由同构体系向异构体系融合发展，呈现出多层存储结构、复杂网络层次和多计算核心嵌套的体系特征。同时，实际重大工程中对数值模拟的精细需求以及多物理问题的耦合计算，导致数值求解问题的规模和难度成几何指数增加，这些硬件特点和应用特性的变化对数据结构设计、并行模式及编程实现提出了极大的挑战。本文以研究和实现适用于国产超算平台体系结构的并行CFD软件为目标，从基础数据结构出发，研究数据依赖关系和存储层次，提出并行计算模式和并行算法，分析计算和通信负载特性，建立并行流场计算的负载模型。研究国产超算平台在通信、访存、MPI+Athread混合并行编程模型、浮点运算等方面的特征和核心函数算法特点，针对性地进行算法优化，可有效提高并行CFD软件在国产超算平台的计算和通信效率。　　本文主要针对超大规模并行CFD数值模拟问题，提出适配国产异构平台的并行编程模型，研究适用于众核构架的超大规模并行计算技术，力求解决国产异构众核平台上“大规模并行计算”和“异构从核加速计算”的实现和优化难题。主要包括以下内容:　　首先，研究并实现了适配于国产计算平台的数据结构和并行算法。针对国产计算平台的多层存储结构特点，设计了多层存储的数据结构，提高了CCFDv3.0软件在国产平台的并行效率。为了解决多块结构网格数据在节点间、节点内、节点-众核间的数据移动问题，设计了基于进程-线程-寄存器多层并行模式的负载模型，实现了网格数据在不同存储层次下的负载均衡。针对并行重叠网格算法中复杂碎片式数据的传输问题，设计了多约束条件的负载模型和基于进程的通信模式，实现了并行重叠网格在国产计算平台的高效并行。　　其次，针对国产SW26010处理器，设计了CCFDv3.0软件并行算法和优化技术。结合SW26010处理器的访存特性，分析了并行CFD软件核心函数，研究了线程级并行算法的优化技术，如数据存储优化、doublebuffer方法等，实现了计算数据在CPU-众核间的DMA高效传输。此外，优化了包括向量化、寄存器通信、数据混洗操作和内联指令重排等技术，提高了SW26010的计算性能。　　最后，实现了并行流场模拟软件CCFDv3.0的工程应用。针对高超声速飞行器气动模拟、机翼挂载分离轨迹预测、火星上升器阻力特性分析、刚性轨道上的高铁气动载荷分析等工程问题，通过气动阻力、运动轨迹等模块指标的数值模拟结果与实验统计数据进行对比分析，验证了该数值模拟软件的计算精度和应用可靠性。在此基础上，将CCFDv3.0数值模拟软件应用于高超声速飞行器气动模拟、多体分离求解、火星上升器阻力特性预测和研究、车辆动力学耦合的高铁气动预测等实际工程问题，有助于提高我国高性能计算水平和实际应用价值。

关键词：国产处理器异构众核架构高性能计算并行算法

来源：评论

学校读者我要写书评

暂无评论

深度学习中卷积计算加速技术研究

深度学习中卷积计算加速技术研究

引用

作者：张铭江南大学

学位级别：硕士

在高性能计算领域中,卷积计算加速技术旨在加速卷积神经网络模型前向推理阶段,应用于各类卷积神经网络的卷积层中。在前向推理阶段,为了学习到更细节的图像特征,卷积神经网络变得越来越深,越来越复杂,这使得卷积神经网络中计算量、参数... 详细信息

在高性能计算领域中,卷积计算加速技术旨在加速卷积神经网络模型前向推理阶段,应用于各类卷积神经网络的卷积层中。在前向推理阶段,为了学习到更细节的图像特征,卷积神经网络变得越来越深,越来越复杂,这使得卷积神经网络中计算量、参数量呈指数增长。由于卷积神经网络涉及到大量密集型计算,这种计算在低内存容量、低算力的嵌入式设备中难以部署,因此,人们将这种计算部署于高性能处理器集群上运行。如今,卷积神经网络中卷积层的密集型计算速度远远不能满足人们的需求,因此,卷积计算加速技术受到人们的广泛关注。本文主要研究了深度学习中卷积计算的加速技术,并在异构众核架构芯片上将卷积计算加速技术成功应用于三种卷积算法中,取得的研究成果如下。(1)基于异构众核架构的直接卷积计算加速。提出直接卷积计算的加速方法,首先优化数据访存方案,其次在数据加载阶段融合双缓冲数据的加速技术,利用异步加载使得计算与数据通信相互隐藏,最后在卷积计算阶段使用脉动阵列进行计算,进一步加速直接卷积计算。选取VGG-16、Res Net-50的多层卷积层进行多组实验,实验结果均体现各种加速技术应用在直接卷积计算中的有效性。例如在保证正确性的前提下,在VGG-16中,相比于并行直接卷积计算,最高有效算力达到126.65 GFLOPS,最高加速比达到7.45。(2)基于改进Im2col变换的分组卷积计算加速。Im2col变换存在内存占用量大、重排速度慢等问题,首先针对这两个问题,提出改进的Im2col变换。其次针对数据分配问题设计多核映射方法,最后在密集型计算方面,提出利用SIMD(Single Instruction Multiple Data)向量指令进行数据并行处理的方案,大大提升计算效率。在精度误差允许范围内,在Alex Net的五层卷积层测试样例上进行实验,相比于串行的基于Im2col变换的分组卷积计算,最高有效算力达到186.71 MFLOPS,最高加速比达到79.52。(3)基于异构众核架构的Winograd卷积计算加速。随着Winograd卷积广泛应用于卷积计算,实现Winograd卷积的空间扩展是必经之路。首先利用SIMD向量指令将二维空间的Winograd卷积扩展到三维空间,其次在实现Winograd卷积计算的四个步骤中,利用SIMD向量指令实现数据并行转换,最后对于哈达玛积问题,提出转换为矩阵乘的方法,并利用脉动阵列实现矩阵乘运算。以VGG-16、Fusion Net中的多层卷积层作为测试样例,在保证正确性的前提下,融合了多种加速技术的Winograd卷积计算最高有效算力达到1915.67 GFLOPS,最高加速比达到314.27。

关键词：高性能计算深度学习卷积计算异构众核架构加速技术

来源：评论

学校读者我要写书评

暂无评论

面向众核系统的块Gauss-Seidel/Jacobi预条件子空间迭代法

面向众核系统的块Gauss-Seidel/Jacobi预条件子空间迭代法

引用

作者：吴立垒国防科技大学

学位级别：硕士

大规模科学与工程计算应用对计算需求的不断增长,推动着高性能计算机系统计算能力迈向E级。未来E级系统在提供巨大计算能力的同时,也将给传统数值并行算法带来巨大挑战和机遇。NKS（Newton-Krylov-Schwarz）算法作为求解大规模非线性方... 详细信息

大规模科学与工程计算应用对计算需求的不断增长,推动着高性能计算机系统计算能力迈向E级。未来E级系统在提供巨大计算能力的同时,也将给传统数值并行算法带来巨大挑战和机遇。NKS（Newton-Krylov-Schwarz）算法作为求解大规模非线性方程组的求解器,在并行计算领域具有广泛应用。面向未来的E级系统,NKS算法将会产生全局通信瓶颈和无法充分利用异构众核架构并行性等问题,这对算法性能和可扩展性造成巨大影响。基于这一问题,研究了面向众核系统的块Gauss-Seidel/Jacobi预条件子空间迭代法,主要包括以下三个方面:1、针对Krylov子空间迭代法中存在的全局通信瓶颈,基于LogP模型建立了一套全新的算法性能模型,该模型定量分析得出了Krylov子空间迭代法在大规模节点的情况下产生的全局通信瓶颈。在此基础上,提出并实现了对PETSc高性能计算工具箱中GMRES、Chebyshev、Richardson、TCQMR四种Krylov子空间算法中包含的向量内积、范数和标准化步骤进行非阻塞式通信优化策略。在天河二号超级计算机平台上对MPIAllreduce和MPIIallreduce接口进行性能对比,最高测试到65536个进程。对比结果表明,MPIIallreduce在进程规模达到1024时,其性能开始明显好于MPIallreduce,且性能优势随着进程规模的扩大而不断扩大。最后采用二维方腔顶盖驱动流作为算例,在天河二号超级计算机平台上对优化效果进行了验证,结果表明,优化后的Krylov子空间迭代法具有良好的可扩展性,在进程规模达到1024时,优化后的Krylov子空间迭代法比优化前的方法性能提升了16%26%不等。2、针对非结构网格问题,提出并实现了面向异构众核架构的块Gauss-Seidel/Jacobi预处理算法,将其作为区域分解算法的子区域求解器。通过数学推导证明了块Gauss-Seidel/Jacobi算法的收敛性。使用高速列车外流场模拟这一真实算例在异构众核架构超级计算机平台进行数值实验的结果表明,基本的块Gauss-Seidel/Jacobi预处理算法具有良好的预处理效果和可扩展性,在使用32个进程计算时,基本的块Gauss-Seidel/Jacobi算法相比于串行Gauss-Seidel算法预处理过程的加速比达到2.86倍。3、基于基本的块Gauss-Seidel/Jacobi算法,针对国产众核架构处理器,分别提出并实现了多行块通信打包、计算与通信重叠和丢弃非关键元素数值优化三种性能优化策略。数值实验的结果表明,优化后的低通信复杂性块Gauss-Seidel/Jacobi算法对比串行Gauss-Seidel算法加速比最高能达到4.16倍。使用1040核的测试数据为基准,在核数达到33,280时,块Gauss-Seidel预处理算法的并行效率为61%。

关键词： E级系统 NKS算法全局通信瓶颈异构众核架构块Gauss-Seidel/Jacobi预条件算法

来源：评论

学校读者我要写书评

暂无评论

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案：

请选择收藏分类：

通借通还

建议与咨询 留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

时间限定

文献类型

馆藏选择

核心期刊

语言

文献类型

帮助

文字说明：

检索规则说明：

检索范例：

分类表

所选分类

限定检索结果

文献类型

馆藏范围

日期分布

学科分类号

主题

机构

作者

语言

请选择保存的检索档案： 新增检索档案 确定 取消

请选择收藏分类： 新增自定义分类 确定 取消

通借通还

建议与咨询留下您的常用邮箱和电话号码，以便我们向您反馈解决方案和替代方法

请选择保存的检索档案：

请选择收藏分类：