分類器組合技術(shù)研究及其在人機(jī)交互系統(tǒng)中的應(yīng)用.pdf

1、隨著模式識(shí)別技術(shù)中遇到的實(shí)際問(wèn)題的復(fù)雜化，單獨(dú)分類器的性能已經(jīng)難以滿足許多實(shí)際應(yīng)用的要求，分類器組合技術(shù)成為提高模式識(shí)別系統(tǒng)性能的一種新的重要手段。 分類器組合技術(shù)研究對(duì)于人機(jī)交互技術(shù)的發(fā)展具有重大意義?，F(xiàn)代人機(jī)交互技術(shù)已經(jīng)發(fā)展到多模態(tài)人機(jī)交互階段，其中一個(gè)重要的課題是多模態(tài)識(shí)別。而分類器組合是解決多模態(tài)識(shí)別問(wèn)題的一項(xiàng)關(guān)鍵技術(shù)。本文結(jié)合人機(jī)交互中的多模態(tài)識(shí)別問(wèn)題，對(duì)四種分類器組合問(wèn)題進(jìn)行研究：（1）模式類別數(shù)量較多的分類器組合問(wèn)

2、題（類別數(shù)大于15）；（2）模式類別數(shù)量較少的分類器組合問(wèn)題（類別數(shù)在3～15之間）；（3）兩類分類器組合問(wèn)題；（4）基于局部分類精度的分類器組合問(wèn)題。 本文針對(duì)以上四類問(wèn)題的特點(diǎn)提出了一些性能較高的分類器組合方法，主要研究成果如下： 1．針對(duì)模式類數(shù)量較多的分類器組合問(wèn)題，提出了一類新的排序?qū)臃诸惼魅诤戏椒ā蛱?hào)變換法。這類方法將對(duì)基本分類器輸出的模式類別排序號(hào)進(jìn)行的變換與分類器的加權(quán)組合結(jié)合起來(lái)，從而在融合過(guò)程中能

3、夠增強(qiáng)小序號(hào)值對(duì)最終分類的影響。大量實(shí)驗(yàn)表明，序號(hào)變換法在分類正確率方面超過(guò)現(xiàn)有的排序?qū)臃诸惼魅诤戏椒?．1～1．0個(gè)百分點(diǎn)。 2．針對(duì)模式類數(shù)量較少的分類器組合問(wèn)題，提出了一種新的度量層分類器融合方法：多決策模板法（MDT，Multiple Decision Templates）。其決策模板產(chǎn)生方法使得每個(gè)決策模板能夠抑制一種容易發(fā)生的分類錯(cuò)誤，從而增加少量決策模板就能夠有效地提高分類正確率。在ELENA數(shù)據(jù)集與UCI數(shù)據(jù)集上

4、的實(shí)驗(yàn)結(jié)果表明：與投票法、樸素貝葉斯法、線性融合規(guī)則及模板匹配法取得的最高分類正確率相比，該方法將分類正確率提高了0．4～0．9個(gè)百分點(diǎn)。與k-近鄰規(guī)則相比，當(dāng)訓(xùn)練樣本較多時(shí)，二者的分類正確率相當(dāng)，而MDT方法的計(jì)算量較?。划?dāng)訓(xùn)練樣本較少時(shí)，MDT方法能夠取得較高的分類正確率。 3．針對(duì)兩類分類器組合問(wèn)題，提出了一種新的度量層分類器融合方法：基于類邊界的分類器融合方法（CBCF， Class Boundary based Cla

5、ssifier Fusion）。該方法利用所研究問(wèn)題在Meta層特征空間上的特點(diǎn)，直接從訓(xùn)練樣本中提取類邊界，然后基于邊界點(diǎn)定義局部線性融合規(guī)則。在Phoneme數(shù)據(jù)集與Ringnorm數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果表明：與投票法、樸素貝葉斯法、模板匹配法及線性融合規(guī)則取得的最高分類正確率相比，CBCF方法將分類正確率提高了0．7～1．5個(gè)百分點(diǎn)；與k-近鄰規(guī)則相比，二者的分類正確率很接近，而CBCF方法的計(jì)算量為k-近鄰規(guī)則計(jì)算量的1/50～1/

6、20。 4．針對(duì)基于局部分類精度的分類器組合問(wèn)題，提出了一種根據(jù)局部分類精度估計(jì)分類置信度的方法，從而在解決該類問(wèn)題時(shí)可以采用分類器融合方法代替?zhèn)鹘y(tǒng)的動(dòng)態(tài)分類器選擇方法，提高分類正確率?；诰植糠诸惥鹊玫椒诸愔眯哦纫院螅瑒?dòng)態(tài)分類器選擇等價(jià)于度量層分類器融合方法中的Max規(guī)則，從而采用性能更好的分類器融合方法能夠提高分類正確率。ELENA數(shù)據(jù)集、UCI數(shù)據(jù)集與Ringnorm數(shù)據(jù)集上的大量實(shí)驗(yàn)結(jié)果表明該方法將分類正確率提高了0．

7、2～13．6個(gè)百分點(diǎn)。 5．基于新的分類器組合方法設(shè)計(jì)了多模態(tài)身份識(shí)別系統(tǒng)與多模態(tài)身份認(rèn)證系統(tǒng)。身份識(shí)別屬于模式類數(shù)量較多的問(wèn)題，所以在多模態(tài)身份識(shí)別系統(tǒng)中采用了序號(hào)變換法。身份認(rèn)證可以作為兩類問(wèn)題處理，所以在多模態(tài)身份認(rèn)證系統(tǒng)中采用了CBCF方法。實(shí)驗(yàn)表明本文方法顯著提高了系統(tǒng)性能，使身份識(shí)別系統(tǒng)的正確識(shí)別率從94％（基本分類器正確識(shí)別率的最大值）提高到99．71％，身份認(rèn)證系統(tǒng)的半錯(cuò)誤率（HTER，Half Total Er