基于機(jī)器學(xué)習(xí)的大規(guī)模文本分類.pdf

1、文本分類問題是指自動(dòng)地將文本按照預(yù)定義的類別體系劃分到正確的類別中，它是智能信息處理領(lǐng)域中一個(gè)重要的研究方向。隨著信息技術(shù)的發(fā)展，特別是20世紀(jì)90年代基于機(jī)器學(xué)習(xí)的文本分類方法的逐漸成熟，文本自動(dòng)分類技術(shù)在自然語(yǔ)言處理、信息組織、內(nèi)容過濾等領(lǐng)域中開始被廣泛地應(yīng)用。目前，互聯(lián)網(wǎng)上可獲得的信息越來越多，如何幫助人們快速、準(zhǔn)確且全面地獲取他們所需要的信息顯得非常重要，文本分類技術(shù)是解決這一問題的有效手段之一。
　　文本分類問題經(jīng)過大約

2、二十年的研究，其基礎(chǔ)技術(shù)已經(jīng)比較成熟，包括樣本表示、分類器、性能評(píng)估指標(biāo)等。然而，現(xiàn)實(shí)應(yīng)用中的大規(guī)模文本分類問題與普通的分類問題相比，自身還具有一些明顯的特點(diǎn)，例如：訓(xùn)練樣本數(shù)量大，預(yù)定義類別多，單個(gè)樣本擁有不止一個(gè)類別標(biāo)號(hào)。此外，人們閱讀文本是為了獲取信息，然而大規(guī)模文本集合中各個(gè)文本的質(zhì)量往往參差不齊，倘若自動(dòng)地對(duì)文本的質(zhì)量加以分類，就能夠幫助人們更高效地獲取信息。
　　本論文圍繞著基于機(jī)器學(xué)習(xí)的大規(guī)模文本分類這個(gè)課題，分別從

3、海量樣本分類、海量類別分類、多標(biāo)號(hào)分類、以及文本質(zhì)量分類這四個(gè)方面開展了研究工作。本論文的主要工作和創(chuàng)新點(diǎn)體現(xiàn)在如下四個(gè)方面：
　　1.本論文提出最小最大模塊化極限學(xué)習(xí)機(jī)算法來提升原極限學(xué)習(xí)機(jī)模型處理海量樣本分類問題的能力。極限學(xué)習(xí)機(jī)是一種新型的神經(jīng)網(wǎng)絡(luò)分類器，具有訓(xùn)練速度快、人工干預(yù)少、泛化性能高等特點(diǎn)，但由于計(jì)算復(fù)雜度較高和內(nèi)存需求較大，不適用于海量樣本分類問題。本論文提出的新算法充分利用了最小最大模塊化網(wǎng)絡(luò)框架的特性，集成了

4、相關(guān)研究中對(duì)它的多種改進(jìn)，并且采用交叉驗(yàn)證和格點(diǎn)搜索來自動(dòng)地完成參數(shù)和組件配置的優(yōu)化。實(shí)驗(yàn)結(jié)果表明新算法使得極限學(xué)習(xí)機(jī)模型處理海量樣本分類問題的能力得到較大提升，訓(xùn)練時(shí)間和內(nèi)存開銷都有了明顯的降低，同時(shí)分類準(zhǔn)確率得到一定程度的提高。
　　2.本論文提出基于元學(xué)習(xí)的層次化分類算法來提高海量類別問題的分類準(zhǔn)確率。傳統(tǒng)的層次化分類算法雖然能夠比較快速地處理海量類別分類問題，但由于在它的分類過程中存在著“誤差擴(kuò)散”現(xiàn)象，分類準(zhǔn)確率偏低。本

5、論文提出的新算法利用元學(xué)習(xí)技術(shù)來緩解這種“誤差擴(kuò)散”現(xiàn)象，同時(shí)保留傳統(tǒng)層次化分類算法處理海量類別分類問題的高效性。實(shí)驗(yàn)結(jié)果表明新算法不僅能夠顯著地提高分類準(zhǔn)確率，而且將計(jì)算復(fù)雜度維持在與傳統(tǒng)算法相同的數(shù)量級(jí)上。
　　3
　　本論文提出變閾值標(biāo)號(hào)選擇策略來更好地解決多標(biāo)號(hào)分類問題。標(biāo)號(hào)選擇策略是指在多標(biāo)號(hào)分類問題中，如何利用基分類器輸出的信心指數(shù)來準(zhǔn)確地決定最終的預(yù)測(cè)類標(biāo)。本論文提出的新策略融合了目前兩種主要的標(biāo)號(hào)選擇策略“閾

6、值策略”和“排序策略”。實(shí)驗(yàn)結(jié)果表明該策略在多標(biāo)號(hào)分類問題中不僅能夠取得較高的分類準(zhǔn)確率，而且在不同的分類數(shù)據(jù)集和分類器模型上都具有良好的魯棒性。
　　4.本論文研究了文本質(zhì)量的自動(dòng)分類方法，即任給一篇文本，系統(tǒng)將自動(dòng)地判斷出它的質(zhì)量高低。該課題的實(shí)際意義在于它能從大規(guī)模文本數(shù)據(jù)集中識(shí)別出高質(zhì)量文本，從而有效地幫助用戶獲取信息。本論文采用監(jiān)督學(xué)習(xí)的框架，總結(jié)并擴(kuò)展了一系列與文本質(zhì)量相關(guān)的特征，以便更好地對(duì)文本質(zhì)量進(jìn)行自動(dòng)分類。本論