資源描述:
《主成分分析方法.ppt》由會員上傳分享,免費在線閱讀,更多相關內(nèi)容在行業(yè)資料-天天文庫。
1、第六章地理系統(tǒng)要素的主成分分析主成分分析的原理主成分分析的解法主成分分析方法應用實例問題的提出地理系統(tǒng)是多要素的復雜系統(tǒng)。變量太多,會增加分析問題的難度與復雜性,而且多個變量之間是具有一定的相關關系的能否在相關分析的基礎上,用較少的新變量代替原來較多的舊變量,而且使這些較少的新變量盡可能多地保留原來變量所反映的信息?主成分分析方法就是綜合處理這種問題的一種強有力的工具。主成分分析是把原來多個變量劃為少數(shù)幾個綜合指標的一種統(tǒng)計分析方法。從數(shù)學角度來看,這是一種降維處理技術§1主成分分析方法的基本原理假定有n個地理樣本,每個樣本共有
2、p個變量,構(gòu)成一個n×p階的地理數(shù)據(jù)矩陣當p較大時,在p維空間中考察問題比較麻煩。為了克服這一困難,就需要進行降維處理.要求:較少的幾個綜合指標盡量多地反映原來較多變量指標所反映的信息,同時它們之間又是彼此獨立的例,成績數(shù)據(jù)100個學生的數(shù)學、物理、化學、語文、歷史、英語的成績?nèi)缦卤恚ú糠郑?。對于多維變量的情況和二維類似,也有高維的橢球,只不過無法直觀地看見首先把高維橢球的主軸找出來,再用代表大多數(shù)數(shù)據(jù)信息的最長的幾個軸作為新變量;這樣,主成分分析就基本完成注意,和二維情況類似,高維橢球的主軸也是互相垂直的。這些互相正交的新變量
3、是原先變量的線性組合,叫做主成分.正如二維橢圓有兩個主軸,三維橢球有三個主軸一樣,有幾個變量,就有幾個主成分選擇越少的主成分,降維就越好。什么是標準呢?那就是這些被選的主成分所代表的主軸的長度之和占了主軸長度總和的大部分。有些文獻建議,所選的主軸總長度占所有主軸長度之和的大約85%即可,其實,這只是一個大體的說法;具體選幾個,要看實際情況而定定義:記x1,x2,…,xP為原變量指標,z1,z2,…,zm(m≤p)為新變量指標系數(shù)lij的確定原則:zi與zj(i≠j;i,j=1,2,…,m)相互無關z1是x1,x2,…,xP的一切
4、線性組合中方差最大者,z2是與z1不相關的x1,x2,…,xP的所有線性組合中方差最大者;……zm是與z1,z2,……,zm-1都不相關的x1,x2,…xP,的所有線性組合中方差最大者。則新變量指標z1,z2,…,zm分別稱為原變量指標x1,x2,…,xP的第一,第二,…,第m主成分從以上的分析可以看出,主成分分析的實質(zhì)就是確定原來變量xj(j=1,2,…,p)在諸主成分zi(i=1,2,…,m)上的荷載lij(i=1,2,…,m;j=1,2,…,p)從幾何上看,找主成分的問題,就是找出P維空間中橢球體的主軸問題;從數(shù)學上容易知
5、道,從數(shù)學上可以證明,它們分別是相關矩陣的m個較大的特征值所對應的特征向量特征值與特征向量與方差--協(xié)方差矩陣的聯(lián)系例如6個樣方、2個種的多度數(shù)據(jù)是:樣方123456物種X1564603物種X21187622數(shù)據(jù)的中心化樣方123456總和物種X11202-4-10物種X25210-4-40中心化后的原始數(shù)據(jù)矩陣把坐標軸X1、X2剛性地旋轉(zhuǎn)一個角度,得到圖中新坐標軸Y1和Y2Y1Y26個樣方點在新坐標系中位置的數(shù)據(jù)為:與中心化后的原始數(shù)據(jù)有如下關系:每個平方和都是6個點在相應坐標軸上方差的(6-1)倍每一項都相當于數(shù)據(jù)的離差平
6、方和,因為x1j,x2j與y1j,y2j的平均值都為0???由它的取值只依賴于坐標軸旋轉(zhuǎn)角度一個變量,取極大值的必要條件是對θ的導數(shù)為0。即=0=0所以上述條件等同于因此,如果原坐標旋轉(zhuǎn)后的Y1軸是我們要求的使Var(Y1)最大的直線的話,則必然有Var(Y2)最小,且。這說明6個樣方點對新坐標的離差矩陣應為是對角矩陣,并且和是對稱離差矩陣S的兩個特征根(),而U的每一行是相應的特征向量一、主成分的基本理論二、主成分分析的幾何解釋進行主成分分析的目的,就是找出轉(zhuǎn)換矩陣U§2主成分分析的解法一、用方差—協(xié)方差矩陣求解主成分例例:設
7、有一組古生物腕足動物貝殼標本的兩個變量:長度和寬度.所測量的數(shù)據(jù)列于表8-1.X1X2X1X232121041012116513668131461013157213177131478915139517139817179141819107202011121、方差—協(xié)方差的計算主成分分析的實質(zhì);就是要求出方差—協(xié)方差矩陣的特征向量及其對應的特征值,即要找出方差—協(xié)方差矩陣所確定的橢球的主軸,交確定其長度方差—協(xié)方差矩陣為求特征值特征向量的求解當時,化為聯(lián)立方程求得同理求得時的特征向量算出第一主成分I:特征值為37.9,特征向量為第二
8、主成分II:特征值為6.5,特征向量為特征向量的方向由I、II中包括的兩個數(shù)字控制第一主成分Z1的方差為37.9,第二主成分Z2的方差為6.5。兩者之和恰為X1和X2的總方差44.4??梢?,兩個主成分Z1、Z2所代表的信息分別為86%和14%。如果用Z1代表原來