[學(xué)習(xí)]多元統(tǒng)計分析典型相關(guān)分析

1、典型相關(guān)分析,,引言,在統(tǒng)計學(xué)中，對兩個隨機變量的關(guān)系，可用線性相關(guān)系數(shù)來分析；研究一個隨機變量與多個隨機變量之間的關(guān)系，可用復(fù)相關(guān)系數(shù)。 然而在對社會經(jīng)濟現(xiàn)象問題的研究中，通常需要考察多個變量與多個變量之間即兩組變量之間的相關(guān)性。,例如為了研究證劵市場走勢與宏觀國民經(jīng)濟之間的關(guān)系，需要分析反映證劵市場狀況的指標(biāo)，如股票價格指數(shù)、股票市值、股票融資量等與經(jīng)濟增長率、物價指數(shù)、固定資產(chǎn)投資、事業(yè)率、進出口額等宏觀經(jīng)

2、濟變量兩組變量之間的相關(guān)關(guān)系。 在分析評估某種社會經(jīng)濟投入與產(chǎn)出系統(tǒng)時，研究投入與產(chǎn)出情況之間的聯(lián)系時，投入情況可以從人力、物力、財力等多個方面反映，產(chǎn)出情況也可以從產(chǎn)值、利稅、收入等多個方面反映。,,如果直接對這些變量的相關(guān)進行兩兩分析，很難得到關(guān)于這兩組變量之間關(guān)系的一個清楚印象。希望能夠把多個變量與多個變量之間的相關(guān)化為兩個變量之間的相關(guān)。 現(xiàn)在的問題是為每一組變量選取一個綜合變量作為代表；而一組

3、變量最簡單的綜合形式就是該組變量的線性組合。 由于一組變量可以有無數(shù)種線性組合（線性組合由相應(yīng)的系數(shù)確定），因此必須找到既有意義又可以確定的線性組合。,,典型相關(guān)分析的概念,典型相關(guān)分析(canonical correlation analysis)就是要找到這兩組變量線性組合的系數(shù)使得這兩個由線性組合生成的變量（和其他線性組合相比）之間的相關(guān)系數(shù)最大。 典型相關(guān)分析是測度兩組變量之間相關(guān)程度的一種多元統(tǒng)計方法

4、。,典型相關(guān)分析的基本思想,典型相關(guān)分析是借助于主成分分析的思想，對每一組變量分別尋找線性組合，使生成的新的綜合變量能代表原始變量大部分的信息，同時，與由另一組變量生成的新的綜合變量的相關(guān)程度最大，這樣一組新的綜合變量稱為第一對典型相關(guān)變量，同樣的方法可以找到第二對，第三對，…，使得各對典型相關(guān)變量之間互不相關(guān)，典型相關(guān)變量之間的簡單相關(guān)系數(shù)稱為典型相關(guān)系數(shù)，典型相關(guān)分析就是用典型相關(guān)系數(shù)衡量兩組變量之間的相關(guān)性。,典型相關(guān)分析的基本假

5、設(shè),1. 二變量之間的相關(guān)系數(shù)是基于線性關(guān)系，若為非線性則須將資料轉(zhuǎn)為線性。2. 典型變量間的典型相關(guān)為一線性關(guān)系，若為非線性則不會被接受。3. 典型相關(guān)不要求變量服從正態(tài)分布，只要該變量 能不減少和其他變量相關(guān)程度。,典型相關(guān)分析的基本步驟,（一）確定典型相關(guān)分析的研究目標(biāo) （二）設(shè)計典型相關(guān)分析 （三）檢驗典型相關(guān)分析的基本假設(shè)（四）典型函數(shù)的估計和識別（五）解釋典型變量（六）驗證模型,第一步：確定典

6、型相關(guān)分析的研究目標(biāo),典型相關(guān)分析是對兩組變量整體相關(guān)關(guān)系的分析。通常一組可定義為自變量組，另一組可定義為因變量組，典型相關(guān)分析要達到以下目標(biāo)： 1確定兩組變量是相互獨立，或者相反，確定兩組變量間存在關(guān)系的大小。 2 為每組變量推出一組權(quán)重，使每組變量的線性組合達到最大程度相關(guān)，即找到第一對典型相關(guān)變量，然后分別找出第二對，第三對等等 3 解釋自變量組與因變量組存在的相關(guān)關(guān)系，通常是通過測

7、量每個變量對典型函數(shù)的相對貢獻來衡量。,第二步：設(shè)計典型相關(guān)分析,典型相關(guān)分析對變量類型、樣本容量有一定要求，要求數(shù)據(jù)為定量數(shù)據(jù)，樣本容量至少保持為每個變量10個觀測，同時在變量的選擇上要根據(jù)相關(guān)的專業(yè)理論來進行設(shè)計。,第三步：檢驗典型相關(guān)分析的基本假設(shè),1、線性性假設(shè)：典型相關(guān)分析是對線性相關(guān)分析的分析，若變量間不是線性關(guān)系，則典型相關(guān)分析是不適用的。 2、正態(tài)性假設(shè)：雖然允許使用非正態(tài)變量，但是正態(tài)性是有意義的，因為它標(biāo)準(zhǔn)化了

8、分布，允許變量間的更高程度的相關(guān)。對于每個典型函數(shù)的多元正態(tài)性的統(tǒng)計檢驗是必要的。由于多元正態(tài)性檢驗不一定可行，流行的準(zhǔn)則是保證每個單變量的正態(tài)性。這樣，盡管不嚴(yán)格要求正態(tài)性，建議所有變量都檢驗正態(tài)性，如有必要，對變量進行變換。,第四步：典型函數(shù)估計和識別,1 推導(dǎo)典型函數(shù) 典型函數(shù)推導(dǎo)類似于沒有旋轉(zhuǎn)的因子分析的過程。典型相關(guān)分析集中說明兩組變量之間的相關(guān)關(guān)系，結(jié)果是第一對典型變量具有最大相關(guān)關(guān)系，第二對得到的

9、是第一對沒有解釋的兩組變量的最大相關(guān)關(guān)系2 典型函數(shù)的解釋 通常提取的典型相關(guān)變量都是某個顯著性水平上顯著的函數(shù)，對其的解釋基于如下假設(shè)，即認(rèn)為典型相關(guān)變量中每組的變量對共同方差有較大貢獻。典型相關(guān)變量的實際重要程度體現(xiàn)在典型相關(guān)系數(shù)的大小上，典型相關(guān)系數(shù)值越大，說明該典型相關(guān)系數(shù)對應(yīng)的典型相關(guān)變量就越重要，越能體現(xiàn)兩組變量間的相關(guān)關(guān)系。,第五步：解釋典型變量.,建立典型相關(guān)分析模型后，需要對模型的結(jié)果進行解釋，可以

10、用以下三種方法來說明。 三種方法：1 典型權(quán)重（標(biāo)準(zhǔn)化的典型變量系數(shù)）2 典型載荷（解釋典型相關(guān)分析結(jié)果的基礎(chǔ)；反應(yīng)原始變量與典型變量的共同方差，即每個原始變量對典型變量的相對貢獻）3 典型交叉載荷（提供了一個更直接的測量因變量組和自變量組關(guān)系的指標(biāo)）,1、典型權(quán)重,傳統(tǒng)的解釋典型函數(shù)的方法包括觀察每個原始變量在它的典型變量中的典型權(quán)重的符號和大小。有較大的典型權(quán)重，則說明原始變量對它的典型變量貢獻較大，反之則相反。原始變量的

11、典型權(quán)重有相反的符號說明變量之間存在一種反面關(guān)系，反之則有正面關(guān)系。但是這種解釋遭到了很多批評。這些問題說明在解釋典型相關(guān)的時候慎用典型權(quán)重。,2、典型載荷,由于典型權(quán)重的缺陷，典型載荷逐步成為解釋典型相關(guān)分析結(jié)果的基礎(chǔ)。典型載荷，也稱典型結(jié)構(gòu)相關(guān)系數(shù)，是原始變量（自變量或者因變量）與它的典型變量間的簡單線性相關(guān)系數(shù)。典型載荷反映原始變量與典型變量的共同方差，它的解釋類似于因子載荷，就是每個原始變量對典型函數(shù)的相對貢獻。,3、典型交叉載

12、荷,它的提出是作為典型載荷的替代。計算典型交叉載荷是使每個原始因變量與自變量典型變量直接相關(guān)，反之亦然。交叉載荷提供了一個更直接的測量因變量組與自變量組關(guān)系的指標(biāo)。,第六步：驗證與診斷,與其他的多元分析方法一樣，典型相關(guān)分析的結(jié)果應(yīng)該驗證，以保證結(jié)果不是只適合于樣本，而是適合于總體。最直接的方法是構(gòu)造兩個子樣本（如果樣本量允許），在每個子樣本上分別做分析。這樣結(jié)果可以比較典型函數(shù)的相似性、典型載荷等。如果存在顯著差別，研究者應(yīng)深入分析，

13、保證最后結(jié)果是總體的代表而不只是單個樣本的反映。 另一種方法是測量結(jié)果對于剔除一個因變量或自變量的靈敏度，保證典型權(quán)重和典型載荷的穩(wěn)定性,典型相關(guān)分析的局限性,1 典型相關(guān)反應(yīng)變量組的線性組合所共享的方差，而不是從變量提取的方差2 計算典型函數(shù)推導(dǎo)的典型權(quán)重有較大的不穩(wěn)定性3 推導(dǎo)的典型權(quán)重是最大化線性組合間的相關(guān)關(guān)系，而不是提取的方差4 典型變量的解釋比較困難，因為他們是用來最大化線性關(guān)系的5 難以識別自變量和因變