基于VSM的網(wǎng)頁(yè)文本分類(lèi)技術(shù)研究.pdf

1、隨著信息技術(shù)的不斷發(fā)展,因特網(wǎng)上的網(wǎng)頁(yè)數(shù)量日益激增,但是Web頁(yè)面的復(fù)雜程度使得人們很難準(zhǔn)確而快速地獲取自己所需的信息。為了使人們能夠迅速?gòu)木W(wǎng)絡(luò)中獲取到自己感興趣的信息,網(wǎng)頁(yè)分類(lèi)技術(shù)應(yīng)運(yùn)而生,并逐漸成為繼文本分類(lèi)之后機(jī)器學(xué)習(xí)領(lǐng)域的研究熱點(diǎn)。同時(shí)這也促進(jìn)了其在信息檢索、信息過(guò)濾、搜索引擎等多個(gè)領(lǐng)域的廣泛應(yīng)用。
　　本文首先介紹了中文文本分類(lèi)的研究背景和意義,以及簡(jiǎn)要介紹文本分類(lèi)的國(guó)內(nèi)外研究現(xiàn)狀。并針對(duì)網(wǎng)頁(yè)文本分類(lèi)的相關(guān)技術(shù)進(jìn)行了詳細(xì)

2、地介紹,包括中文網(wǎng)頁(yè)預(yù)處理、網(wǎng)頁(yè)文本表示、特征選取技術(shù)、網(wǎng)頁(yè)分類(lèi)算法和網(wǎng)頁(yè)分類(lèi)效果的評(píng)價(jià)指標(biāo)和幾種常見(jiàn)的文本分類(lèi)技術(shù)。
　　其次,本文結(jié)合網(wǎng)頁(yè)的半結(jié)構(gòu)化特性,并根據(jù)網(wǎng)頁(yè)中不同標(biāo)簽內(nèi)的特征詞對(duì)分類(lèi)結(jié)果的影響大小,以及特征詞在網(wǎng)頁(yè)中出現(xiàn)位置的語(yǔ)義特點(diǎn),分析并提出了一種根據(jù)不同標(biāo)簽和特征詞的位置的權(quán)重確定方法。同時(shí),研究了傳統(tǒng)的tf-idf公式在網(wǎng)頁(yè)分類(lèi)中的應(yīng)用及其存在的不足,發(fā)現(xiàn)tf-idf公式在選擇特征詞時(shí)未考慮特征詞在類(lèi)內(nèi)及類(lèi)間的

3、分布情況,然而針對(duì)此不足之處對(duì)傳統(tǒng)的tf-idf公式進(jìn)行了改進(jìn),提出了一種結(jié)合類(lèi)內(nèi)分布率和類(lèi)間偏差的特征選擇方法。本文將這兩種方法綜合起來(lái)統(tǒng)稱(chēng)為基于特征詞復(fù)合權(quán)重的網(wǎng)頁(yè)分類(lèi)算法WCA(Webpage Classification Algorithm)。再通過(guò)實(shí)驗(yàn)證明該算法的優(yōu)越性和可行性。
　　最后,本文運(yùn)用改進(jìn)的WCA算法并基于半監(jiān)督的機(jī)器學(xué)習(xí)理論構(gòu)建了一個(gè)網(wǎng)頁(yè)分類(lèi)器,使用搜狗實(shí)驗(yàn)室的互聯(lián)網(wǎng)語(yǔ)料庫(kù)SougouCS和網(wǎng)絡(luò)爬蟲(chóng)得到的