面向CPU-GPU異構(gòu)系統(tǒng)的雙緩沖四段流水并行機(jī)制研究.pdf

1、以 GPU為代表的通用加速器技術(shù)已經(jīng)成為目前高性能計算領(lǐng)域的主流發(fā)展方向之一。隨著硬件存儲、計算能力的增長和大數(shù)據(jù)時代的到來，如何使用具有高存儲帶寬、高計算性能的帶有加速器的異構(gòu)并行系統(tǒng)應(yīng)對科學(xué)和工程領(lǐng)域中日益增長的數(shù)據(jù)密集型應(yīng)用，已經(jīng)成為一個迫切需要解決的課題。目前已經(jīng)有一些工作研究如何利用存儲受限且無法擴(kuò)展的異構(gòu)加速器處理超過其存儲限制的應(yīng)用問題，對于一些具體應(yīng)用如代數(shù)求解、聚類分析等已經(jīng)提出了在CPU-GPU異構(gòu)單點(diǎn)或集群系統(tǒng)上能

2、夠處理大規(guī)模問題的方法。然而，如何利用由多核CPU與多個眾核GPU加速器組成的單個異構(gòu)結(jié)點(diǎn)處理超過設(shè)備內(nèi)存限制的一般性問題，目前尚無理想的解決方案。
　　本文提出了用于 CPU-GPU異構(gòu)系統(tǒng)的雙緩沖四段流水機(jī)制，能夠在帶有一個或多個 GPU加速器的單結(jié)點(diǎn)上處理存儲規(guī)模超過單個加速器設(shè)備內(nèi)存限制的計算問題。雙緩沖四段流水機(jī)制使用數(shù)據(jù)分塊流水計算策略，在打破單個GPU存儲瓶頸的同時能夠通過重疊計算與傳輸達(dá)到很高計算性能和硬件利用率，