統(tǒng)計(jì)量表匯總

1、名稱 符號(hào) 公式 意義 應(yīng)用 其他 眾值Mode Mo 中位值Median Md 均值Mean x 離異比率Variation 質(zhì)異指數(shù)(Index of qualifative variatio n) v (nfmo)/ 檢驗(yàn)非眾數(shù)的比例 F檢驗(yàn) F F (Rss/k)/Ess/(n k 1) 檢驗(yàn)用X表小Y的準(zhǔn)確性： 解釋誤差/未解釋誤差 多元回歸中B是否為0 F越大越顯著 sigF檢驗(yàn) sigF 檢驗(yàn)F的顯著水平 越小越顯著 置信度 置信度=1- T檢驗(yàn) t t Rssj(n % Rss2) 與F檢驗(yàn)類似，t專用二分 變量 多元回歸中bj是否為0 T越小越顯著 SigT檢驗(yàn) sigT 檢

2、驗(yàn)T的顯著水平 越小越顯著 相關(guān)系數(shù) r (X X)(Y Y) r 1 一 2 - 2 J (X X) ? (Y Y) 兩個(gè)變量之間的相關(guān)程度 越接近 1越顯著 容限度toleranee tolera nee 2 Tolerance=1- Ri Xi作為自變量對(duì)其他自變 量回歸時(shí)所得到的余差比 例，代表Xi與其他變量信息 的重復(fù)性。 Toleranee越大，Xi與其 他變量的信息重復(fù)性越 小，Xi越獨(dú)立，對(duì)Y的 邊際解釋越大。0.1 VIF VIF=1/tolera nee VIF越小對(duì)Y的解釋力 越大，10 四分位差(in terquartile ran ge) Q Q=Q 3-Q1 標(biāo)準(zhǔn)差

3、 (standard deviation) S S J (x x)2/ n 打門 x2 ( x)2 n y 表示總樣本對(duì)平均量的平 均的偏離量。 S越小樣本越集中 標(biāo)準(zhǔn)誤 s / jn 方差(varianee) S2 S2越小樣本越集中 正 態(tài)分布 (normal distribution ) f (x).exp (x x) /2s V2 ?s X以均值x為中心，在左右 兩邊以S為單位分布 標(biāo)準(zhǔn)值 (standard score) Z z (x x) /s 表示X偏離x的距離，以S 為單位 標(biāo)準(zhǔn)正態(tài)分布 (sta ndardno rmal distribution ) 1 f (x). exp

4、( x/2) J2 標(biāo)準(zhǔn)正態(tài)分布中，S=1，x =0. 尤拉Q系數(shù)(Yules Q) Q Q (ad bc)/(ad bc) 計(jì)算二分變量間的關(guān)系 疋類一疋類（李書 70） 越大表示關(guān)系越強(qiáng) 消減誤差比例測(cè)量法 (properti on ate reduct ion in error) PRE PRE=1-E2/E1 表明用E2來表示E1所能消 減的百分誤差 李書78 PRE越大，表明用E2表 達(dá)E1的可靠性越高。 系數(shù) mxmy (Mx My) 2n (Mx My) 表明用x來表示y所能消減 掉的誤差比例 李書81疋類一疋類或 疋類一疋序 越大表示x的說明程 度越高。 y系數(shù) y my M

5、y yn M y 表明用x來表示y所能消減 掉的誤差比例。其中x為自 變量，y為依變量 李書81疋類一疋類或 定類一疋序 同上 Tau-Y相關(guān)系數(shù) Tau-y +Ei E2 tau y Ei 表明兩個(gè)疋序/疋類變量之 間的相關(guān)關(guān)系 李書84疋類一疋類 或疋類一疋序 越大相關(guān)性越高，關(guān)系 越密切 Gamma系數(shù) G cNs Nd Ns Nd 表示兩個(gè)定序變量之間的 相關(guān)關(guān)系 李書86定序一一 定序 越接近正負(fù)1，相關(guān)程 度越大 dy系數(shù) dy ,Ns Nd dy Ns Nd Ty 表示兩個(gè)定序變量之間的 相關(guān)關(guān)系 李書88定序一一 定序 越接近正負(fù)1，相關(guān)程 度越大 皮爾遜積矩相關(guān)系數(shù) r (x

6、 x)(y y) J (x x)2 Q (y y)2 表示兩個(gè)定距變量之間的 相關(guān)關(guān)系 李書105定距 定距 越大相關(guān)性越強(qiáng) 相關(guān)比率 Eta2 2 2(y y)2(y yJ2 E 2 (y y) 表示疋類變量與疋序/疋類 變量直接的關(guān)系 疋類疋序 疋類疋類 卡方檢驗(yàn) 2 2(f e)2 e 表示疋類變量與疋序/疋類 變量直接的關(guān)系 李書183疋類疋 類疋類疋序 卡方越大表明相互關(guān)系 越強(qiáng) 確定系數(shù) R2 m2( y y)2 R 2 (y y) 代表回歸方程中變量對(duì) y的 解釋能力 確定系數(shù)應(yīng)盡量接近 1 多元相關(guān)系數(shù) R r Jr2 表明y與所有x之間的多元 線性相關(guān)程度 R應(yīng)盡量接近1 偏

7、確定系數(shù) Ry2 d2RSS(1,2)-RSS(I) Ry2 1ESS(1) Ry? R：? 表示X2對(duì)y的邊際影響 1Ry? 偏相關(guān)系數(shù) rab c 嚴(yán)r abracrbc Jira：c JirbC 在控制Xc的條件下，Xa與 Xb的相關(guān)程度 協(xié)方差 COV(X , Y)=E(X-E(X)(Y-E(Y) 考察自變量是否相互獨(dú)立 協(xié)方差越大，越不獨(dú)立 反印象相關(guān)矩陣 矩陣中的值是負(fù)的偏相關(guān) 系數(shù)，如果值比較大，則不 適合做因子分析。 Bartlett球體分析 分析是否做因子分析，應(yīng)該 有檢驗(yàn)值PV0.0001 KMO測(cè)量 分析是否是合作因子分析， KMO越接近于1越好，0.5 以上可以接受。

8、方差分析 分析兩組或兩組以上的數(shù)據(jù)之間的相似程度。兩組數(shù)據(jù)(x,y )將生成三個(gè)平均數(shù)：第一組數(shù)據(jù)平均a;第二組數(shù)據(jù)平 均b；總數(shù)據(jù)平均c。因此得到三組離差：總離差S1區(qū)c)2(yic)2，組內(nèi)離差S：區(qū) a)2(yib)2, 以及組間離差S3 S1 s2 虛擬變量 當(dāng)一個(gè)變量X，共有N (比如是5)個(gè)值，例如，民族為漢、蒙、回、滿、藏時(shí)，不能夠?qū)⒅兂啥ㄐ蜃兞浚以?統(tǒng)計(jì)中出現(xiàn)的非整數(shù)無法解釋(如，3.5究竟表示五個(gè)變量之間怎樣的比例，就完全無法解釋了)。因此必須將有五個(gè) 值的一個(gè)變量變成五個(gè)不冋的變量，分別為漢族=0/1，家古族=0/1，回族=0/1，滿族=0/1，臧族=0/1，雖然變量

9、的數(shù)目 變多了，但是關(guān)系變清晰了。但五個(gè)虛擬變量其實(shí)沒有必要，因?yàn)椴淮嬖谖鍌€(gè)變量，即X1X5都為0的情況。所 以刪去其中任何一個(gè)變量，只留下N-1個(gè)變量，當(dāng)四個(gè)變量都為0時(shí)，第五個(gè)必為1。 *虛擬變量必為0/1變量！ 抽樣分布 標(biāo)準(zhǔn)誤 一/品 x 二項(xiàng)分布 標(biāo)準(zhǔn)誤 x J 1Fn Stan dardno rmal distributi on Z=x對(duì)應(yīng)的值表示當(dāng) Z=x時(shí)對(duì)應(yīng)的的0 x之間的總面積的大小S, 0.5 S 2 基本公式： 2 2 2 (1) D (x)Ex E(x) E(x ) E(x) 舊聞梳理: 1,泊松分布：P X k k ,k為正整數(shù); k! 標(biāo)準(zhǔn)正態(tài)分布概率：f(x)

10、1 2 2 正態(tài)分布概率為：f (x) 1 e 、2 se 正態(tài)分布的可加性： XN( 2 i ),Y N( Y N( k e : e nn / (1 -) e ( n ) k! n k 泊松公式：當(dāng)n很大，p很小時(shí)，有C： pk(1 p)n k e ,其中 叩 k! 1 t Gamma 函數(shù)：() t e dt o (，)f (x)( ) e , 0 x 1 t () t e dt 0 ，其中有 Gamma分布：當(dāng)f(y)的概率密度滿足如下公式時(shí)，即為Gamma分布: Gamma分布依據(jù)k值的不同，曲線如右。 k 2 2 2 2 2,卡方分布：對(duì)于獨(dú)立的標(biāo)準(zhǔn)正態(tài)分布函數(shù) X，函數(shù)Z=ZXkd

11、k滿足分布，且有Xj, 0 其中 XN(0,1) 卡方分布的密度函數(shù)為f (y) (齊)?？ǚ椒植嫉臄?shù)學(xué)期望與方差為: E( 2) E(X2) D(XJ E2(Xj)D(XJ 0(1) n D( 2)D(X：)E(X：) E2(X：)3 1 2n，其中，有 E(x4)x4 x3f(x)0 f (xi)x4f(x)dx k 2 3x f (x) (多次分部積分法) dx dx 1J 當(dāng)n足夠大時(shí)，有2 (n) (z . 2n 1)2 卡方分布的可加性，2(n1)2(n2) 2(ni n2) 3, t檢驗(yàn)需要考慮自由度 df，而Z檢驗(yàn)不需要，因?yàn)閦檢驗(yàn)時(shí)的標(biāo)準(zhǔn)誤中的是總體參數(shù)，與sample大小n

12、無關(guān)。而 T檢驗(yàn)中的s是樣本參數(shù)，與 sample大小有關(guān)。 4，X的n次方期望 就是密度函數(shù)乘x5積分！ ！因?yàn)閤的分布不隨其n次方改變，因而密度函數(shù)不變，只是x增大而已。 5，t分布的方差為v/(v-2),v為自由度(通常v=n-1),其期望為0,具體證明： 卡方分布的方差 很好計(jì)算 因?yàn)樽杂啥葹?N的卡方分布其實(shí)是系數(shù)為N/2,1/2的Gamma分布 而Gamma函數(shù)的性質(zhì)讓我們很容易計(jì)算出X的任何 階期望具體方法是： X的n次方期望就是密度函數(shù)乘x5積分這時(shí)你把x5放進(jìn)密度函數(shù)你的積分函數(shù)里面就得到x的N/2-1+ n次方也就是說系數(shù)從N/2變成了N/2+n同 樣你把分式下面的Gamm

13、a函數(shù)和1/2A(N/2)提到積分外部然后添加需要的系數(shù)(使得該式變?yōu)橄禂?shù)為 N/2+n和1/2的Gamma分布 對(duì)1積分為一)然后除 以你添加的系數(shù)最后積分外部的所有系數(shù)就是你的xAn的期望了 .設(shè)X服從N(0,1)Z服從自由度為N的卡方分布 X和Z獨(dú)立那么D(T)=E(TA2)-E(T)A2 其中 E(T)=E(X/sqrt(Z/N)=E(X)*E(1/sqrt(Z/N)=0 所以 D(T)=E(TA2)=E(XA2/(Z/N)=E(XA2)*E(N/Z)=N*E(XA2)*E(1/Z) 其中E(XA2)=1 E(1/Z)=1/(N-2)( 通過密度函數(shù)計(jì)算同第一題卡方分布的1/2次方期望

14、可以很容易求出) 所以 D(T)=N/(N-2) 6,t分布的概率密度函數(shù)為： h(t) (n 1)/2 .n (n/2) 2 (n 1)/2 t12/2 ,t函數(shù)不是正態(tài)分布，但當(dāng)n趨近于無窮大時(shí)，可有： limh(t) =et/2，即接近于標(biāo)準(zhǔn)正態(tài)分布。 n 2 T分布的表達(dá)式為: X2 t ，其中 XN(O,1),丫(n) 常Y / n 7, F分布的概率函數(shù)為: (x) n. /2(叫/2) 1 1 X 1 (n./2) (n2/2)1 (n.x/n2) n2)/2 (m n 2)/2( n! ri2) F的定義函數(shù)為F 咒，其中與V分別為卡方分布，即為 2(nJ , 2 2 (n2)

15、，即F分布可以用來描述兩個(gè)分布的比。 有:當(dāng)FF( nn?),必有1/FF ( nzE)。F (口，n2)表示，在n確定的情況下，F(xiàn)點(diǎn)右方曲線所封閉的面積為1- a。因此，F(xiàn)函數(shù)有兩個(gè)自由度 厲和n2 , 8, Z、T、 2、F、的一些定理。 (1),正態(tài)總體為N (,2),樣本為X, X為樣本均值，有 X N (,2/n ),則有以下定理: 定理A: 2 (n Vs2(n 1)，且X與S相互獨(dú)立。(證明需用到矩陣，見概率論與數(shù)理統(tǒng)計(jì)P146) 定理B: X t(n 1)。(證明見概率論與數(shù)理統(tǒng)計(jì)P143) S/ -n 2 2 Xi N（ 1, 1 ）, Y N（ 2，2 ）相互獨(dú)立，其均值分

16、別為 X與Y，方差為S1與S2，則有: S2/S2F(n1 1,n2 1)，且當(dāng) 1= 2=時(shí)，有氏1)(Y 12/ I 2) )1 1 Sw、 n2 證明，由 N函數(shù)與 2 函數(shù)的可加性可知，有: (X Y)n( i 2 2,)，因而有U= n1n2 (X Y）（ t( nj n2 12) N(0,1)。 1 n2 2）。其中，有SW（ni庸仇1）S2 2 (n2 1)S2 2(ni n2 2)。 則有 t(n1+n 2-2)。 V / Jrb2) 即為（X 1）（Y i fl 2)t( n1 壓 2) n2 9,樣本均值的方差=總體方差/n的證明（即標(biāo)準(zhǔn)誤的證明） D(x) 。 n x11

17、 標(biāo)準(zhǔn)誤（standard error）= D（x） D（一）2 D（ x） 2 （nD（x） nnn 因此有 10,對(duì)比分布中效應(yīng)量 ES的證明：ES表示表示(X 丫)( 12),是實(shí)驗(yàn)組值與對(duì)照組值的差，比上對(duì)照組的標(biāo)準(zhǔn)差。表示的是實(shí)驗(yàn)組與對(duì)照組之 間，不受樣本大小影響的標(biāo)準(zhǔn)間距，(或者說是實(shí)驗(yàn)組與對(duì)照組之間的總體標(biāo)準(zhǔn)間距) 。ES沒有具體的統(tǒng)計(jì)意義，也不實(shí)際存在，其值為 ? Z。因?yàn)?v n 11, ES本身不受樣本大小的影響，因而可以自由在不同大小的樣本中進(jìn)行變換，是一個(gè)總體恒量。 此時(shí)的對(duì)照組總體的標(biāo)準(zhǔn)差滿足 Z分布的可加性，有X Y ( 12)，1 2)，選取樣本之后的樣本總量(

18、DF )為m門22，其標(biāo)準(zhǔn)誤為 S(niS一(n21)S2，這里用到了樣本標(biāo)準(zhǔn)誤S，之所以是n-1而不是n,是因?yàn)闉楸ＷC樣本均值為卩，已經(jīng)去掉了一個(gè) ni 壓 2m 門22n 1 自由度。 因而有：ES= (XY)( 12)=(x1)(Y2)=( X 1)(Y2)*11 = t SwS h 1V n1 rh卜亂 w n1 n2n2 證明秩和檢驗(yàn)的均值和方差： 秩和檢驗(yàn)中在數(shù)一組有 ni個(gè)，二組有n2個(gè)，則有這些數(shù)的分布為 1至(ni+n2)。 現(xiàn)在檢驗(yàn)數(shù)組I的秩和的均值和方差，得到，其秩的和分布于(ni 1)ni ,n2 ni (n2 ni E 1)ni， 2 2 是一個(gè)等差數(shù)列，等差為 I

19、(即自然數(shù)列)。則有其均值為： Eg) ni(mn2 i) 2 (ni i)ni 門2 ni (壓 m m i)m / 2 2 2 其方差為 D( nJ E(ni2) E2( nJ E(n2) ni( ni n2 2 i) (2 - (2 (m i)nii)(ni i)n,g i)ni -22 /( nin2 6 八小i(ni n2 I)-廠 i) 2 mn 2(m n2 i) I2 i2， Dependent sample t test 方法(關(guān)聯(lián)樣本 t檢驗(yàn))： A，將相互對(duì)應(yīng)的個(gè)體一一對(duì)應(yīng)，求出其差值為D (differenee scores)； B，求出D的平均值M d，其理論值為 。

20、 C,求出D的方差為Sd2，其標(biāo)準(zhǔn)誤為Smd D，構(gòu)建t函數(shù)，t值為：t MD，其自由度為df np 1 13, 構(gòu)建 Wilcoxon T m檢驗(yàn)的方法 A，將相互對(duì)應(yīng)的個(gè)體一一對(duì)應(yīng)，求出差值D，并根據(jù)D的絕對(duì)值|D|開始排行，由1開始，直到最大；其中為 0者全部去掉，不參與排序。由此得 到的即為Rank值，Rank的最大值為np； B，根據(jù)D的正、負(fù)將Rank分為R+與R，任何一組都可以用作計(jì)算。 C，任何一組中，有其均值為 Tm 葉(np1) 4 其標(biāo)準(zhǔn)差為 Tm (2 np 1)( np 24 D，構(gòu)建Tm檢驗(yàn)的z函數(shù)，得到z Tm 14, 兩樣本對(duì)比方差的方法 A，對(duì)兩樣本分別求方差

21、，為 S；與S；，兩樣本大小分別為 n1與n2； B，求F值為：F SS；,自由度為（n1，n2）; C,求對(duì)應(yīng)自由度與 a的F值，如果所求F在其右方，為拒絕域，左方為接受域。 與其他分部不同，F(xiàn)分部的中心值是1，即兩個(gè)方差相同。F值越大越右偏，一般只計(jì)算 F大于1的狀態(tài)。 15, 多樣本的方差對(duì)比與 ANOVA 、多樣本的方差對(duì)比。 多個(gè)樣本Xa,Xb,Xc販XK組成總樣本X, j為組數(shù)，i為每組個(gè)體數(shù)。j最大為k。 每個(gè)方差的個(gè)體數(shù)為：j a,b,c販穔 且：i N。 因此我們可以定義每一個(gè)個(gè)體為Xji，每組j個(gè)個(gè)體，組數(shù)為i，此時(shí)對(duì)這些樣本而言，形成三個(gè)方差： 每組的平均數(shù)為Xj總平均數(shù)

22、為X,共有k個(gè)組，N個(gè)個(gè)體。 方差一：總體方差SST （X.）2 N（X）2 1 .j 方差二：組內(nèi)方差 SSW : 1（x.j）2 j （Xy 方差三：組間方差SSB：j（X）j（X） 則有SST SSW SSBSSW表示組內(nèi)的差異，SSB表示組間的差異。如果 各個(gè)樣本來自同一個(gè)總 體，則 組間與組內(nèi)就是一個(gè)概念因而沒有分別，因此有 F MSB SSB/（K 1） MSW SSW/（N K） 接下來可以用F分布的方法來測(cè)量 F值，確定是否可以接受 MSB=MSW，從而是否能接受各樣本方差一致。 二、多樣本中任何兩個(gè)樣本均值的對(duì)比 protected t test。 H0失敗的那個(gè)異己項(xiàng)。為驗(yàn)

23、證任何兩個(gè)樣本之間的均值是否一致，將構(gòu)造 (M1 M2) 0 且有SMt M2 Protected t test只有在HO被推翻在之后才能使用，目的是找出導(dǎo)致 t函數(shù)。此時(shí)： M2 三、關(guān)聯(lián)抽樣的 ANOVA 在關(guān)聯(lián)抽樣中，不僅像獨(dú)立抽樣中分成了組，還分成了 “塊”，每一群相關(guān)聯(lián)的個(gè)體構(gòu)成一個(gè)塊“block” 在方差分析時(shí)，方差表示數(shù)據(jù)之間離散的差異程度，方差越大差異性越大。而且因?yàn)榉讲钍瞧椒胶鸵虼瞬?會(huì)出現(xiàn)正負(fù)中和的現(xiàn)象， SSB SST k 22 1n jXj I 即方差之間的離散和總有一個(gè)SST,表示總體離散和，大于其他任何離散和，且為 其他離散和的總和。構(gòu) 成以下方差： i2 1x2

24、Nx。表示所有離散的總和。其自由度為N，為所有個(gè)體總量 Nx。SSE構(gòu)建了 k個(gè)全新的樣本，每個(gè)樣 本中的個(gè)體一摸一樣，都是其平均數(shù)，即這樣 的樣本 中組內(nèi)沒有任何離散，因此SSB計(jì)算出的是組間的離散。其自由度為k 1, k為組數(shù)。 SSBI i 2 1BI2 k 2 Nx。SSB其實(shí)只構(gòu)建了一個(gè)樣本，共i個(gè)個(gè)體，每個(gè)個(gè)體都是k組中對(duì)應(yīng)個(gè)體的平均數(shù)，即這一 SSE SST 其實(shí) 個(gè)樣本中沒有組內(nèi)差別也沒有組間差別，只有塊間差別。其自由度為BI 1 i 1 SSB SSB為余差項(xiàng)，是SSBWSSB不能覆蓋的部分，表示 的是沒有解釋的離散程 度，其自由度為 (n 1)?( k 1) 關(guān)聯(lián)抽樣的AN

25、OVA為F MSBI/MSE. SSBI SSE SSW，因此F表示的其實(shí)是，在組內(nèi)離散中，塊造成的離散與余差之間的比例。 四、多樣本方差對(duì)比中的Kruskal-Wallis H 檢驗(yàn)：非參數(shù)分析 for independent samples Kruskal-Wallis H檢驗(yàn)是秩和檢驗(yàn)的升級(jí)。秩和檢驗(yàn)只用來檢驗(yàn)均值而此時(shí)可以用來檢驗(yàn)方差。首先按照秩和檢驗(yàn)的方法將數(shù)據(jù)排序，得到 組數(shù)為j, j最大為k，每組個(gè)體數(shù)為nj,且有總個(gè)體數(shù)誒n j N。每一組的秩和為 Tj,得到： 2 Ssb：衛(wèi)_ N(n 1)為組間方差。則有 1山 4 H 12SSb 2(k 1),k為組數(shù)。H是一個(gè)卡方分布，其最 大概率值為df本身。 N(N 1) 2 由得到的H值進(jìn)行對(duì)比，若在點(diǎn)右側(cè)即為拒絕，表明方差不統(tǒng)一，總體間有差異。 五、多樣本方差對(duì)比中的Friedman Fr檢驗(yàn)：非參數(shù)分析for dependent samples 如下