模式分類中特征降維方法的研究.pdf

1、模式識別的主要任務就是利用樣本的特征，將樣本劃分為相應的模式類別。但在實際的處理過程中經(jīng)常會碰到高維數(shù)據(jù)樣本。一方面，數(shù)據(jù)的特征維數(shù)越大，則數(shù)據(jù)提供的有關客觀現(xiàn)象的信息就越多。但另一方面，高維數(shù)據(jù)卻給計算機的處理帶來了巨大的困難，而且其中可能存在著較大的相關性和冗余，影響分類精度，這就是維數(shù)災難問題。因此，特征降維是進行模式識別的重要任務之一。
　　 特征提取和選擇是特征降維的主要手段。特征排序是特征選擇的一個分支，其計算復雜度

2、低，易于應用，能夠一次將所有的特征進行排序，因此得到廣泛的應用。本文提出了一種新的特征排序的方法用于處理降維過程中的特征選擇問題。文中先回顧了特征降維的相關信息，介紹了概率密度函數(shù)估計，并重點論述了非參數(shù)估計法和Parzen窗口概率密度估計原理。然后設計一種應用Gaussian窗函數(shù)的Parzen窗口概率密度估計進行特征排序的方法，并討論該方法的無監(jiān)督和有監(jiān)督的情況。在無監(jiān)督的情況下，先對原始數(shù)據(jù)樣本進行概率密度估計，然后對所有數(shù)據(jù)的某

3、一維特征進行加權變換，再對變換后的數(shù)據(jù)樣本進行概率密度估計，計算由該特征加權變換前后所引起的數(shù)據(jù)樣本的概率密度距離，即前后兩次概率密度的差值，把這個值作為該特征的評價得分，根據(jù)這個得分來對特征進行排序，通過選擇合適的維數(shù)來達到降維的目的。在監(jiān)督的情況下，充分利用數(shù)據(jù)的類別信息。先對所有數(shù)據(jù)的某一維特征進行加權變換，然后計算變換后的類別間的概率密度距離，類別間的距離越大，說明該特征對于區(qū)分各類別數(shù)據(jù)的作用越大，即該特征越重要。因此，把總體