融合實(shí)例選擇和特征選擇的文本聚類性能優(yōu)化方法.pdf

1、文本聚類一直是數(shù)據(jù)挖掘和信息檢索領(lǐng)域的基礎(chǔ)性研究議題，它試圖將內(nèi)容相似的文本劃分到相同的類簇。文本聚類不僅得到了國(guó)內(nèi)外學(xué)者廣泛的關(guān)注和探索，也在大量實(shí)際系統(tǒng)中獲得廣泛應(yīng)用。具體的應(yīng)用場(chǎng)景包括：搜索引擎結(jié)果歸納、大規(guī)模文檔集合瀏覽、電子商務(wù)推薦系統(tǒng)等等。盡管數(shù)據(jù)挖掘中的絕大部分聚類分析算法都可直接用于文本，如K-means、DBSCAN等，然而，文本數(shù)據(jù)規(guī)模的爆炸式的增長(zhǎng)，使得文本固有的高維稀疏性問(wèn)題顯得更加突出。同時(shí)，無(wú)意義、有歧義的冗

2、余文本規(guī)模隨之?dāng)U大，這些文本難以劃分到任何一個(gè)有明顯語(yǔ)義的類簇。
　　為此，本文試圖同時(shí)利用實(shí)例選擇和特征選擇優(yōu)化文本聚類的效果和效率。具體地，我們以信息K-means算法為切入點(diǎn)，首先提出一種基于隨機(jī)實(shí)例抽樣的Info-Kmeans聚類算法，算法將Info-Kmeans中KL距離(Kulback Leibler Divergence)計(jì)算變換為香農(nóng)熵的計(jì)算，解決了文本數(shù)據(jù)高維稀疏性所導(dǎo)致的零值困境問(wèn)題；接下來(lái)，我們引入隨機(jī)實(shí)例抽

3、樣進(jìn)一步降低算法的迭代計(jì)算量，并證明抽樣所導(dǎo)致的性能誤差可以被控制在極小的范圍之內(nèi)。在8個(gè)不同規(guī)模文本數(shù)據(jù)集上的實(shí)驗(yàn)表明，我們所提出的方法可以大幅提升文本的聚類效率。然而，由于頻繁更新實(shí)例的類簇容易降低聚類性能，因此，對(duì)大規(guī)模文本聚類進(jìn)行隨機(jī)實(shí)例抽樣，才亦有助于聚類效果的提升。
　　特征選擇有助于擴(kuò)展文本數(shù)據(jù)維度，并抽取出有清晰語(yǔ)義的類簇。為此，本文首先在文本詞袋模型上定義出有物理意義的強(qiáng)關(guān)聯(lián)詞項(xiàng)集指標(biāo)，然后證明文本中強(qiáng)關(guān)聯(lián)特征組