基于GPU的脈沖神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)研究.pdf

1、脈沖神經(jīng)網(wǎng)絡(luò)(Spiking Neural Network，SNN)采用精確時(shí)間組成的脈沖序列表示與處理信息，是進(jìn)行復(fù)雜時(shí)空信息處理的有效工具。監(jiān)督學(xué)習(xí)是SNN的重要研究領(lǐng)域，研究者提出了多種算法，并取得了良好的學(xué)習(xí)效果。但要在實(shí)際問(wèn)題中廣泛應(yīng)用，尤其是處理海量高維數(shù)據(jù)，訓(xùn)練速度是有待克服的主要問(wèn)題。
　　利用SNN的天然并行性，研究SNN的并行化方法，提高大規(guī)模SNN訓(xùn)練速度是本課題的主要目標(biāo)。SNN的加速仿真可以使用超級(jí)計(jì)算機(jī)

2、、計(jì)算機(jī)集群、圖形處理單元(GPU)以及特殊的硬件如現(xiàn)場(chǎng)可編程門陣列(FPGA)等。其中，GPU作為計(jì)算機(jī)的常規(guī)資源，具有性價(jià)比高、能耗低、高度并行和極強(qiáng)的計(jì)算能力。本課題將利用GPU加速大規(guī)模SNN訓(xùn)練。
　　在統(tǒng)一設(shè)備架構(gòu)(CUDA)環(huán)境下，使用PC機(jī)的CPU和GPU，構(gòu)建了SNN并行計(jì)算平臺(tái)?；谏窠?jīng)元-突觸并行映射GPU處理單元，實(shí)現(xiàn)核函數(shù)(Kernel)完成如下功能：神經(jīng)元輸入電流計(jì)算、脈沖發(fā)放神經(jīng)元尋找、SNN脈沖傳播

3、和權(quán)值調(diào)整。采用適于多重前饋結(jié)構(gòu)的Multi-ReSuMe算法，設(shè)計(jì)并實(shí)現(xiàn)了基于GPU的SNN監(jiān)督學(xué)習(xí)；通過(guò)稀疏化網(wǎng)絡(luò)參數(shù)的存儲(chǔ)，改進(jìn)脈沖事件的表示方法，降低了網(wǎng)絡(luò)參數(shù)的存儲(chǔ)消耗；針對(duì) GPU線程束的分叉問(wèn)題，采用局部緩存降低不利影響，提高了GPU的利用率。
　　采用不同規(guī)模的SNN進(jìn)行CPU和GPU模式仿真實(shí)驗(yàn)，針對(duì)兩種模式的運(yùn)行時(shí)間、加速比進(jìn)行了對(duì)比分析。使用了兩個(gè)不同規(guī)模的數(shù)據(jù)集，Iris和duke breast-cance