構造性神經(jīng)網(wǎng)絡集成方法及其在地震預報中的應用研究.pdf

1、機器學習是人工智能中最活躍、應用潛力最顯著的領域之一，而神經(jīng)網(wǎng)絡集成作為一種新的機器學習方法，降低了神經(jīng)網(wǎng)絡的使用難度，并且具有比單個神經(jīng)網(wǎng)絡更強的泛化能力，已經(jīng)成為機器學習領域中的一個相當活躍的研究熱點。 現(xiàn)有的各種神經(jīng)網(wǎng)絡集成構造方法中，集成結構的確定及個體網(wǎng)絡的訓練參數(shù)的調(diào)整都是通過繁瑣和復雜的實驗來手工實現(xiàn)的，這在很大程度上依賴于使用者的先驗知識和經(jīng)驗。并且神經(jīng)網(wǎng)絡集成需要訓練多個神經(jīng)網(wǎng)絡，增大了時間開銷。這些勢必影響到

2、神經(jīng)網(wǎng)絡集成的實際應用。因此，降低構造神經(jīng)網(wǎng)絡集成的復雜性，提高神經(jīng)網(wǎng)絡集成的學習效率具有重要的意義。針對這兩個問題，本文在對神經(jīng)網(wǎng)絡集成理論研究的基礎上深入進行了以下幾個方面的研究工作： 首先，為了提高神經(jīng)網(wǎng)絡集成的學習效率，本文提出并實現(xiàn)了一種并行分布式的RBF(RadialBasisFunction)神經(jīng)網(wǎng)絡集成PDERNN(Parallel-DistributedEnsembleofRBFNeuralNetworks)。

3、采用MPI(MessagePassingInterface)消息傳遞編程模型，通過任務劃分、任務分配、通訊等并行技術，實現(xiàn)了主從模式的PDERNN，從而提高了神經(jīng)網(wǎng)絡集成的學習效率。 其次，為了指導有一定神經(jīng)網(wǎng)絡使用經(jīng)驗的用戶設計具有較高泛化能力的神經(jīng)網(wǎng)絡集成，本文提出了基于實驗設計的構造性神經(jīng)網(wǎng)絡集成方法DECERNN(DesignofExperimentbasedConstructiveEnsembleofRBFNeural

4、Networks)。分別用正交設計和均勻設計兩種方法來指導神經(jīng)網(wǎng)絡集成結構的設計和個體網(wǎng)絡的訓練參數(shù)的調(diào)整，與以往多數(shù)采用的“試湊法”相比，大大降低了復雜性。同時，采用該方法可以分析出各因素對神經(jīng)網(wǎng)絡集成泛化能力的影響程度，從而確定最佳的集成結構和參數(shù)組合。 再次，為了使沒有神經(jīng)網(wǎng)絡使用經(jīng)驗的用戶也能夠方便地設計出具有較高泛化能力的神經(jīng)網(wǎng)絡集成，本文提出了自適應構造性神經(jīng)網(wǎng)絡集成方法SACERNN(Self-AdaptiveCo

5、nstructiveEnsembleofRBFNeuralNetworks)，它通過采用最近鄰聚類算法和構造算法，能夠自動地確定神經(jīng)網(wǎng)絡集成結構和個體網(wǎng)絡的訓練參數(shù)。SACERNN還采用了多種技術來提高集成的泛化能力。實驗表明，該方法能夠自動地為實際應用構造出泛化能力較高的神經(jīng)網(wǎng)絡集成。 最后，將本文的研究成果應用于地震預報的研究中。本文先提出了異常驅動樣本構造法和基于RBF神經(jīng)網(wǎng)絡的屬性約簡方法來提高學習樣本的質(zhì)量；然后將自適