分布式全文檢索系統(tǒng)中索引管理及文件預(yù)處理研究.pdf

1、信息時代，數(shù)據(jù)規(guī)模呈現(xiàn)爆炸式增長，非結(jié)構(gòu)化信息越來越龐大。網(wǎng)絡(luò)中的信息具有海量規(guī)模和非結(jié)構(gòu)化兩大特點，傳統(tǒng)的集中式索引難以提供高效、可靠的服務(wù)，需要建立分布式全文檢索系統(tǒng)，處理海量的非結(jié)構(gòu)化信息。
　　分布式檢索系統(tǒng)的主要處理對象是文本數(shù)據(jù)，使用自然語言進行檢索，就需要對網(wǎng)絡(luò)上獲得的各種類型的數(shù)據(jù)進行文本提取、自然語言的分詞，以便建立結(jié)構(gòu)化的索引。同時也需要建立分布式索引管理機制，實現(xiàn)索引在各節(jié)點的負載均衡、數(shù)據(jù)同步、分布式查詢，

2、并保證信息安全。本文主要研究分布式檢索系統(tǒng)的文本提取、中英文混合分詞、分布式索引管理。
　　本文設(shè)計并實現(xiàn)了支持多種文件格式的文本實時提取系統(tǒng)。該系統(tǒng)包括文件實時監(jiān)控、文件類型識別、編碼識別與轉(zhuǎn)換、文本內(nèi)容提取四個模塊，使用Inotify監(jiān)控數(shù)據(jù)源，將發(fā)生寫操作的文件加入任務(wù)隊列，識別文件類型，針對文件類型采取相應(yīng)的方案進行文本提取，提取Office系列文檔、pdf文檔、壓縮文檔、郵件文檔、網(wǎng)頁文檔和xml文檔等文件的文本內(nèi)容，制

3、成統(tǒng)一編碼的純文本文件。
　　本文設(shè)計并實現(xiàn)了中英文分詞器對中英文語料進行分詞。分詞器包括中文分詞、英文分詞、混合分詞三個子分詞器，均基于Trie樹構(gòu)造詞典。處理文本時，首先調(diào)用混合分詞器，若分詞不成功則根據(jù)當(dāng)前字符的語種分別調(diào)用中文或英文分詞器。中文分詞器采用折半掃描的正向增字最大匹配算法采集歧義字段，并設(shè)計了一套歧義處理機制來消歧。英文分詞器結(jié)合波特詞干算法與詞典匹配法提取單詞詞根。結(jié)合三種分詞器，能對中英文混合的語料文本準(zhǔn)確

4、高效地分詞。
　　本文設(shè)計并實現(xiàn)了基于Katta的分布式索引管理平臺，用于管理大規(guī)模索引文件，并實現(xiàn)了提供給用戶的搜索接口和交互頁面。從Katta源碼中開發(fā)出接口函數(shù)，建立了一套任務(wù)管理機制，定時合并索引，并利用Zookeeper的虛擬文件系統(tǒng)解決索引更新和客戶端搜索之間的沖突。采用Tomcat搭建Web服務(wù)器，通過JSP/Servlet技術(shù)與客戶端交互，優(yōu)化了搜索算法，支持分頁查詢、條件查詢等高級搜索，為客戶端提供簡潔的搜索頁面