基于通信優(yōu)化的多MIC協(xié)處理器平臺上的并行編程研究.pdf

1、未來高性能計算機的發(fā)展趨勢是在單個計算節(jié)點之內(nèi)使用多個加速部件，更為復(fù)雜的體系結(jié)構(gòu)使得通信效率成為了獲得更高性能的主要因素之一。因此本文基于通信優(yōu)化這一關(guān)鍵問題，進行了新型的單節(jié)點多MIC協(xié)處理器平臺上的并行編程研究。
　　首先，為了實現(xiàn)單節(jié)點內(nèi)多個協(xié)處理器與主機端CPU的高效通信，本文對比研究了三種編程方式，包括基于對等模式的MPI-OpenMP編程方法，基于卸載模式的傳統(tǒng)的pragma編程方法，以及本文新提出的基于卸載模式的C

2、OI-SCIF編程方法。MPI-OpenMP方式的編程及優(yōu)化與傳統(tǒng)的CPU集群相同；第一種卸載模式的編程方法較為通用，是由編譯器的pragma指令實現(xiàn)；而第二種卸載模式的方法結(jié)合使用了Intel提供的底層接口coprocessor offload infrastructure（COI）和symmetric communication interface（SCIF），以實現(xiàn)低延遲的通信。雖然以pragma為基礎(chǔ)的編程方式更為簡單，但COI

3、-SCIF的編程方式有以下的優(yōu)點：卸載代碼段開銷更低，數(shù)據(jù)傳輸帶寬更高，計算與數(shù)據(jù)通信能夠?qū)崿F(xiàn)更好的異步重疊等。底層的COI-SCIF編程方式可以更細(xì)粒度的控制數(shù)據(jù)傳輸，與對等模式的MPI-OpenMP方式相比也顯示了很好的性能效果。其次，考慮到整個異構(gòu)集群上的并行編程和通信優(yōu)化，針對集群中多種設(shè)備高效協(xié)同計算的問題，本文面向Stencil結(jié)構(gòu)化網(wǎng)格類計算，研究了一種基于高效通信的混合編程模型。通過結(jié)合使用MPI、OpenMP、COI、

4、SCIF等多種編程技術(shù)，完成模型的整體設(shè)計，提出了一種較為合理的負(fù)載均衡策略，并通過任務(wù)劃分、通信隱藏等技術(shù)實現(xiàn)層次流水線式通信優(yōu)化，達到多層次高效率的通信計算目標(biāo)。
　　本文的所有實驗都是基于一個以Stencil結(jié)構(gòu)化網(wǎng)格計算為基礎(chǔ)的真實三維應(yīng)用實現(xiàn)；實驗平臺為當(dāng)前排名世界第一的天河-2號超級計算機。通過詳盡的測試，分析對比了單節(jié)點上MPI-OpenMP、pragma和COI-SCIF這三種不同編程方式的通信帶寬與性能，展現(xiàn)了基

5、于系統(tǒng)級接口的COI-SCIF編程模式的優(yōu)勢；多節(jié)點上，首先對基于高效通信的混合編程模型的負(fù)載劃分策略進行測試與驗證，得出了最優(yōu)的負(fù)載劃分結(jié)果；在最優(yōu)負(fù)載設(shè)置下，分析對比應(yīng)用通信優(yōu)化策略前后的性能結(jié)果；本文在最后給出了上述編程模型指導(dǎo)下實現(xiàn)、在天河-2號上大規(guī)模長時間模擬，所得出的病態(tài)心臟細(xì)胞納米精度的鈣動力學(xué)模擬結(jié)果。
　　本文所進行的基于通信優(yōu)化的單節(jié)點多MIC協(xié)處理平臺上的混合編程研究，不僅為單節(jié)點-多加速器這類新興體系結(jié)構(gòu)