模式識(shí)別的子空間方法及其在人臉圖像分析上的應(yīng)用.pdf

1、本文分別就子空間方法在圖像預(yù)處理、圖像數(shù)據(jù)稀疏表示和鑒別信息提取方面展開討論，并應(yīng)用于人臉圖像預(yù)處理、人臉圖像稀疏表達(dá)以及人臉識(shí)別。 在圖像預(yù)處理方面，本文提出了帶懲罰性原象學(xué)習(xí)算法。核主成分分析(KPCA)最近被開始用于圖像預(yù)處理。與主成分分析(PCA)相比，KPCA在核特征空間實(shí)現(xiàn)對(duì)數(shù)據(jù)的線性逼近，并在特征空間中實(shí)現(xiàn)圖像特征的預(yù)處理。然而KPCA變換后的圖像特征依然是定義在核特征空間中，而在某些應(yīng)用中，我們需要得到的是圖像數(shù)

2、據(jù)本身，所以需要學(xué)習(xí)該特征在圖像空間中相應(yīng)的原象，但是精確的原象往往是不存在的，因此原象學(xué)習(xí)本身是個(gè)病態(tài)估計(jì)問題。．目前如何設(shè)計(jì)適當(dāng)?shù)膬?yōu)化準(zhǔn)則以得到更佳的逼近原象值依然是個(gè)開放性問題。本文首先提出了一個(gè)基于兩步法的原象學(xué)習(xí)框架性算法；然后在提出的框架算法下，進(jìn)一步發(fā)展了帶懲罰性原象學(xué)習(xí)算法，通過運(yùn)用懲罰性體系來引導(dǎo)原象學(xué)習(xí)的過程，從而估計(jì)出更佳的逼近原象值。最后我們還把原象學(xué)習(xí)算法應(yīng)用于人臉圖像預(yù)處理等問題。 在圖像數(shù)據(jù)稀疏表示

3、方面，本文主要在理論和實(shí)驗(yàn)上討論了各種稀疏約束方法的相互作用，并發(fā)展了基于非負(fù)成分的稀疏矩陣分解算法。近幾年來，非負(fù)性成為稀疏特征提取的流行約束方法，然而仍有許多理論或未知問題需要解決： 為什么和什么時(shí)候非負(fù)性有利于稀疏特征的學(xué)習(xí)、為什么非負(fù)性要同時(shí)施加在成分矩陣和系數(shù)矩陣上、去掉某個(gè)矩陣上的非負(fù)性約束對(duì)稀疏特征提取有什么影響等。針對(duì)這些問題，我們首先建立了一個(gè)稀疏矩陣分解的框架性算法。然后在該框架體系下討論各種約束對(duì)稀疏特征提

4、取的影響，并從理論上分析非負(fù)性約束的作用和不足之處。此外，針對(duì)框架算法的優(yōu)化問題，本文還提出了基于平緩優(yōu)化策略的交替式迭代優(yōu)化過程，從而得到更好的局部最優(yōu)解。本文在稀疏算法研究方面的另外一個(gè)貢獻(xiàn)是釋放了非負(fù)矩陣分解算法中對(duì)系數(shù)矩陣的非負(fù)性約束，并結(jié)合其他約束方法，發(fā)展了新的稀疏算法。通過理論和實(shí)驗(yàn)分析，我們發(fā)現(xiàn)這種單邊非負(fù)矩陣分解算法不但有利于提取(更)稀疏的特征，同時(shí)能更好地保證數(shù)據(jù)描述能力，即避免丟失過多重建信息，而且有更好的識(shí)別效

5、用。在鑒別信息提取方面，本文著重研究Fisher鑒別分析(LDA)的小樣本問題。本文將LDA的小樣本問題分為狹義小樣本問題和廣義小樣本問題，其中狹義小樣本問題是指類內(nèi)協(xié)方差矩陣的奇異性問題，而廣義小樣本問題是指由于樣本量不足而造成對(duì)LDA中統(tǒng)計(jì)量估計(jì)的偏差問題。針對(duì)LDA的小樣本問題，本文有如下的工作，其中第1和第2點(diǎn)針對(duì)狹義小樣本問題而第3點(diǎn)針對(duì)廣義小樣本問題： 1.理論分析了主成分選擇對(duì)LDA降維影響，并發(fā)展了基于遺傳算法主

6、成分選擇的LDA算法。首先，我們提出了PCA降維定理，這從數(shù)學(xué)上證明一定存在一組主成分使得降維后類內(nèi)協(xié)方差矩陣非奇異；同時(shí)給出了實(shí)際例子說明并不是任意主成分的組合都滿足該定理的條件。其次，我們提出了基于遺傳算法的主成分選擇算法(GA-PCA)，并發(fā)展了基于GA—PCA降維的LDA算法，即GA—Fisher，及提出了降維后LDA算法的快速計(jì)算方式。通過實(shí)驗(yàn)，我們發(fā)現(xiàn)并不是所有對(duì)應(yīng)于大特征值的主成分都含有比對(duì)應(yīng)于小特征值的主成分多的鑒別信息

7、。適當(dāng)選取對(duì)應(yīng)于小特征值的主成分，有利于在降維的同時(shí)，保留更有用的鑒別信息。 2.在理論和實(shí)驗(yàn)上全面比較基于樣本向量表示的I．DA(1D-LDA)和基于樣本矩陣表示的LDA(2D-LDA)算法。在理論上深入分析了2D-LDA優(yōu)點(diǎn)和不足之處以及探討1D-LDA什么時(shí)候會(huì)比2D-LDA好，并且給出了2D—LDA為貝葉斯最優(yōu)的充分條件，并將之與1D—LDA的進(jìn)行比較。大量的實(shí)驗(yàn)獲得了部分與以往研究不同的實(shí)驗(yàn)結(jié)論，從而給出了1D-LDA