基于Hadoop的海量視頻數(shù)據(jù)分布式處理研究.pdf

1、隨著互聯(lián)網(wǎng)技術(shù)的發(fā)展和科技的進(jìn)步，網(wǎng)絡(luò)視頻數(shù)據(jù)正急劇增加，如何有效的存儲海量的視頻數(shù)據(jù)和高效的處理海量的視頻數(shù)據(jù)成為了當(dāng)前研究的熱點。巨大的數(shù)據(jù)量和處理要求使得單節(jié)點存儲和處理已經(jīng)遠(yuǎn)遠(yuǎn)不能滿足性能需求，需要采用分布式技術(shù)來存儲和處理海量視頻數(shù)據(jù)。因此，本文主要基于分布式處理平臺的海量數(shù)據(jù)存儲和檢索平臺的基礎(chǔ)上，設(shè)計并實現(xiàn)基于Hadoop的海量視頻數(shù)據(jù)分布式處理的系統(tǒng)，其研究工作主要包括以下三點。
　　首先，針對海量視頻數(shù)據(jù)的特點，

2、設(shè)計了海量視頻存儲和處理的整體構(gòu)架體系。系統(tǒng)采用分布式存儲系統(tǒng)(HDFS)存儲海量視頻數(shù)據(jù)，采用MapReduce的架構(gòu)設(shè)計目標(biāo)圖片特征提取及特征匹配的計算，采用列式數(shù)據(jù)庫(HBase)存儲視頻摘要數(shù)據(jù)等技術(shù)，通過對分布式存儲和處理的技術(shù)研究后，從海量視頻數(shù)據(jù)存儲與處理出發(fā)，結(jié)合系統(tǒng)的需求和視頻數(shù)據(jù)的特點，設(shè)計出基于Hadoop的海量視頻數(shù)據(jù)分布式處理系統(tǒng)。
　　其次，在海量視頻數(shù)的存儲方面，分析系統(tǒng)處理過程中需要的視頻數(shù)據(jù)和存儲

3、需求，設(shè)計并實現(xiàn)視頻數(shù)據(jù)存儲、視頻摘要存儲和特征提取等功能。針對需要大吞吐量的視頻數(shù)據(jù)，采用HDFS分布式存儲系統(tǒng)進(jìn)行存儲;針對視頻數(shù)據(jù)的特點，設(shè)計出視頻數(shù)據(jù)表和視頻摘要信息的存儲方法，便于存儲在HBase面向列的數(shù)據(jù)庫中，通過視頻摘要信息，系統(tǒng)可以快速檢索到視頻數(shù)據(jù)，通過提取的特征值，可以進(jìn)行快速的處理;針對存儲與處理間的數(shù)據(jù)交互，本文采用XML文件解決平臺和應(yīng)用間的差異，最后通過數(shù)據(jù)的讀寫實驗，驗證了系統(tǒng)的存儲功能的高效性。

4、　　最后，在視頻數(shù)據(jù)的計算方面，設(shè)計出三種提升系統(tǒng)處理效率的方法:單點切割法、分布式切割法、幀分布式法，結(jié)合存儲的視頻數(shù)據(jù)和分布式處理系統(tǒng)的特點，分析三種切割法的優(yōu)缺點，并對三種切割方法進(jìn)行實驗分析，通過對比實驗數(shù)據(jù)，得出最優(yōu)的切割方法，選擇更加高效的處理方法，部署在Hadoop分布式處理平臺上，實現(xiàn)的海量視頻數(shù)據(jù)分布式處理。通過大量的實驗，驗證了系統(tǒng)在存儲性能、計算性能等方面可行性和高效性，極大的提高了視頻數(shù)據(jù)處理的效率，是海量視頻數(shù)