監(jiān)督流形學(xué)習(xí)及其應(yīng)用研究.pdf

1、維數(shù)約簡是機器學(xué)習(xí)、模式識別等領(lǐng)域的一個非常重要的問題，理論研究上已有許多經(jīng)典的好方法，如主成份分析(PCA)、多維定標(biāo)(MDS)等。這些方法使用的前提都是假設(shè)待處理的數(shù)據(jù)點近似具有某種全局線性結(jié)構(gòu)，然而在實際問題中，很多數(shù)據(jù)集是非線性的，或者說位于一些不規(guī)則的碎片流形上。在這種情況下，傳統(tǒng)的線性方法已經(jīng)不能正確地、有效地描述數(shù)據(jù)點的內(nèi)在真實結(jié)構(gòu)。 對于非線性降維的研究一直以來都是一個令人感興趣的話題，近年來，一類特殊的非線性降

2、維方法引起了人們的極大興趣，例如等距特征映射(ISOMAP)、局部線性嵌入(LLE)等，由于這類算法主要是研究數(shù)據(jù)點近似位于一個被嵌入到高維空間的低維流形上的問題，所以也把這類算法統(tǒng)稱為流形學(xué)習(xí)方法。當(dāng)前流形學(xué)習(xí)已經(jīng)成為數(shù)據(jù)降維領(lǐng)域的一個研究熱點，并且在數(shù)據(jù)的可視化，以及人臉圖像、文本、數(shù)字識別等領(lǐng)域獲得了較好的效果。 最初的一些流形學(xué)習(xí)算法多是無監(jiān)督的學(xué)習(xí)方法，隨著研究的深入，人們又將這些算法推廣到監(jiān)督學(xué)習(xí)問題中。本文在研究了