基于SLT的偏最小二乘分類算法及其優(yōu)化方法研究.pdf

1、隨著數(shù)據(jù)采集和存儲(chǔ)技術(shù)的飛速發(fā)展，高維數(shù)據(jù)，如航天遙感數(shù)據(jù)、生物數(shù)據(jù)網(wǎng)絡(luò)數(shù)據(jù)以及金融市場交易數(shù)據(jù)等大量涌現(xiàn)，如何將高維數(shù)據(jù)表示在低維空間中，并由此發(fā)現(xiàn)其內(nèi)在的本質(zhì)結(jié)構(gòu)是機(jī)器學(xué)習(xí)及模式識(shí)別領(lǐng)域的重要研究方向之一，現(xiàn)已引起人們廣泛的關(guān)注，相應(yīng)研究方興未艾，其應(yīng)用范圍涉及圖像分析和處理、多媒體處理、醫(yī)學(xué)數(shù)據(jù)分析、海洋氣象預(yù)測、計(jì)算機(jī)視覺信息檢索和跨語種文本分類等眾多領(lǐng)域。
　　模式識(shí)別主要包括分類和聚類兩方面的研究，而分類又分為有監(jiān)督的

2、分類方法和無監(jiān)督的分類方法，本文主要研究有監(jiān)督的分類算法，所用的實(shí)驗(yàn)數(shù)據(jù)為維度均在50以上。本文以偏最小二乘法為基礎(chǔ)，研究了偏最小二乘法用于高維數(shù)據(jù)分類，全文主要分為4部分:
　　(1)從特征提取的角度分析介紹了PCA和PLS的原理，通過對(duì)PCA的介紹深入理解PLS算法的原理，實(shí)現(xiàn)了高維數(shù)據(jù)分類過程中的數(shù)據(jù)降維過程。
　　(2)PLS的一個(gè)缺點(diǎn)是當(dāng)X向量空間的方向存在一個(gè)較大的方差，而這個(gè)方差與Y不相關(guān)時(shí)，就會(huì)出現(xiàn)PLS模型

3、性能不佳的狀況。文章第二部分將SLT算法加入到PLS過程中，結(jié)合判別分析方法，實(shí)現(xiàn)PLSDA和SLT-PLSDA分類模型的設(shè)計(jì)，并用一組實(shí)驗(yàn)對(duì)比分析PLSDA和SLT-PLSDA的實(shí)現(xiàn)過程及對(duì)高維數(shù)據(jù)的分類能力。
　　(3)提出用交叉驗(yàn)證方法對(duì)分類模型進(jìn)行性能評(píng)價(jià)，建立交叉驗(yàn)證的實(shí)現(xiàn)模型，獲得5個(gè)樣本數(shù)據(jù)集的PLSDA和SLT-PLSDA分類模型的錯(cuò)誤率評(píng)估結(jié)果，并對(duì)這些實(shí)驗(yàn)數(shù)據(jù)進(jìn)行分析，比較PLSDA和SLT-PLSDA兩種模型

4、應(yīng)用于數(shù)據(jù)分類的優(yōu)劣性。
　　(4)由于存在著潛變量數(shù)目的選取過程，因此隨機(jī)選取數(shù)據(jù)進(jìn)行分類器的訓(xùn)練面臨著陷入局部最小值的風(fēng)險(xiǎn)，因此即結(jié)合交互驗(yàn)證過程，提出了將集成學(xué)習(xí)應(yīng)用于分類模型設(shè)計(jì)的兩種方法，一是將得到的不同分類器采用投票表決的方法對(duì)未知樣本進(jìn)行分類，二是基于交叉驗(yàn)證分類模型的交叉驗(yàn)證準(zhǔn)確率，采用權(quán)重分配的方法，將各個(gè)分類模型整合起來，獲得唯一的分類模型。利用這兩種方法，避免了分類器設(shè)計(jì)中陷入局部最小值的風(fēng)險(xiǎn)，間接獲得了進(jìn)行