Boosting算法研究及其在光譜分析中的應用.pdf

1、集成學習算法通過訓練多個弱學習算法并將其結論進行合成,可以顯著地提高學習系統(tǒng)的泛化能力.Boosting算法作為集成學習算法的主要代表算法,得到了廣泛的研究和應用,但其研究成果大部分都集中的分類問題上.該文主要研究了Boosting回歸算法.首先對以損失函數(shù)梯度下降為原理的樣本無權值算法進行了闡述,并給出了一個實際問題的仿真結果.其次對按概率取樣本的有權值算法進行了大量實驗,實驗結果顯示出按概率選擇樣本權值算法比無權值算法的總體性能更為

2、優(yōu)秀,但其個體算法的不穩(wěn)定性以及為了獲得穩(wěn)定結果所需要的巨大計算時間使其不可能成為一種能廣泛應用的算法.針對以上兩種方法的缺陷,該文提出了一種新的按概率取樣本的改進算法.仿真結果顯示,改進算法比前兩種算法的性能都要優(yōu)秀.算法的計算時間和算法的精度相關,因此在實際應用中可以通過平衡算法性能和計算時間來獲得需要的結果.最后,對改進算法所表現(xiàn)出來的不足,該文提出了一種結合無權值算法的方法,雖然這個算法的最終計算結果相比改進算法在性能上沒有太大