概率論與數(shù)理統(tǒng)計基礎(chǔ)_第1頁
概率論與數(shù)理統(tǒng)計基礎(chǔ)_第2頁
概率論與數(shù)理統(tǒng)計基礎(chǔ)_第3頁
概率論與數(shù)理統(tǒng)計基礎(chǔ)_第4頁
概率論與數(shù)理統(tǒng)計基礎(chǔ)_第5頁
已閱讀5頁,還剩148頁未讀, 繼續(xù)免費閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進行舉報或認領(lǐng)

文檔簡介

概率論與數(shù)理統(tǒng)計基礎(chǔ)第1頁,課件共153頁,創(chuàng)作于2023年2月2023/7/142第一節(jié)

概率論基礎(chǔ)一、正態(tài)分布及其特征二、隨機變量的數(shù)字特征第2頁,課件共153頁,創(chuàng)作于2023年2月2023/7/143一、正態(tài)分布及其特征若連續(xù)型隨機變量X的概率密度函數(shù)為:其中μ和

σ(σ

>0)都是常數(shù),則稱X服從參數(shù)為μ和σ的正態(tài)分布或高斯分布.記作:第3頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1441、正態(tài)分布概率密度函數(shù)的性質(zhì)(3)f(x)關(guān)于x=μ軸對稱;(4)函數(shù)f(x)在(-∞,μ]上單調(diào)增加,在[μ,+∞)上單調(diào)減少,在x=μ處取得最大值;(5)

x=μ

σ為f(x)的兩個拐點的橫坐標;(6)f(x)以x軸為漸近線第4頁,課件共153頁,創(chuàng)作于2023年2月2023/7/145根據(jù)對密度函數(shù)的分析,也可初步畫出正態(tài)分布的概率密度曲線圖.正態(tài)分布概率密度函數(shù)的曲線圖第5頁,課件共153頁,創(chuàng)作于2023年2月2023/7/146決定了圖形的中心位置,決定了圖形中峰的陡峭程度.2、正態(tài)分布N(μ,σ2)的圖形特點第6頁,課件共153頁,創(chuàng)作于2023年2月2023/7/147

設(shè)X~,X的分布函數(shù)是3、正態(tài)分布N(μ,σ2)的分布函數(shù)xf(x)第7頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1484、標準正態(tài)分布N(0,1)

μ=0,σ=1的正態(tài)分布稱為標準正態(tài)分布.其密度函數(shù)和分布函數(shù)常用

Φ(x)

表示:第8頁,課件共153頁,創(chuàng)作于2023年2月2023/7/149標準正態(tài)分布的分布函數(shù)標準正態(tài)分布的密度函數(shù)和分布函數(shù)標準正態(tài)分布的密度函數(shù)-110第9頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1410標準正態(tài)分布N(0,1)的性質(zhì):標準正態(tài)分布的重要性在于,任何一個一般的正態(tài)分布都可以通過線性變換轉(zhuǎn)化為標準正態(tài)分布.定理1根據(jù)定理1,只要將標準正態(tài)分布的分布函數(shù)制成表,就可以解決一般正態(tài)分布的概率計算問題.第10頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1411標準正態(tài)分布函數(shù)值表通常所給出的是當(dāng)

x>0時,Φ(x)的值。即:5、正態(tài)分布表當(dāng)x<0

時,第11頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1412若~N(0,1)

則5、標準正態(tài)分布表第12頁,課件共153頁,創(chuàng)作于2023年2月2023/7/14136、標準正態(tài)分布的上α分位點設(shè)若數(shù)滿足條件則稱點為標準正態(tài)分布的上分位點.例5:查表試求解:由第13頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1414二隨機變量的數(shù)字特征

1、數(shù)學(xué)期望

2、方差

3、協(xié)方差和相關(guān)系數(shù)第14頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1415定義1

設(shè)X是離散型隨機變量,它的分布律是:P{X=xk}=pk,k=1,2,…請注意:離散型隨機變量的數(shù)學(xué)期望是一個絕對收斂的級數(shù)的和。數(shù)學(xué)期望簡稱期望,又稱為均值。若絕對收斂,則稱即為隨機變量X的數(shù)學(xué)期望,記為:1)離散型隨機變量的數(shù)學(xué)期望1、隨機變量的數(shù)學(xué)期望第15頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1416定義2

設(shè)X是連續(xù)型隨機變量,其密度函數(shù)為f(x),如果積分絕對收斂,則稱此積分值為X的數(shù)學(xué)期望,即請注意:

連續(xù)型隨機變量的數(shù)學(xué)期望是一個絕對收斂的積分.2)、連續(xù)型隨機變量的數(shù)學(xué)期望第16頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1417定理:設(shè)Y是隨機變量X的函數(shù):Y=g(X),g是連續(xù)函數(shù),則有:3)隨機變量函數(shù)的數(shù)學(xué)期望若X為離散型若X為連續(xù)型該公式的重要性在于:當(dāng)我們求E[g(X)]時,不必知道g(X)的分布,而只需知道X的分布就可以了.這給求隨機變量函數(shù)的期望帶來很大方便.第17頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1418

4)數(shù)學(xué)期望的性質(zhì)

1.設(shè)C是常數(shù),則E(C)=C;

4.設(shè)X、Y相互獨立,則E(XY)=E(X)E(Y);

2.若k是常數(shù),則E(kX)=kE(X);

3.E(X+Y)=E(X)+E(Y);(諸Xi相互獨立)請注意:由E(XY)=E(X)E(Y)不一定能推出X,Y獨立第18頁,課件共153頁,創(chuàng)作于2023年2月2023/7/14191)方差的定義設(shè)X是一個隨機變量,若E[(X-E(X)]2存在,稱E[(X-E(X)]2為X的方差.記為D(X)或Var(X),即D(X)=Var(X)=E[X-E(X)]22、隨機變量的方差第19頁,課件共153頁,創(chuàng)作于2023年2月2023/7/14202)計算方差的一個簡化公式

D(X)=E(X2)-[E(X)]2

展開證:D(X)=E[X-E(X)]2=E{X2-2XE(X)+[E(X)]2}=E(X2)-2[E(X)]2+[E(X)]2=E(X2)-[E(X)]2利用期望性質(zhì)第20頁,課件共153頁,創(chuàng)作于2023年2月2023/7/14213)方差的性質(zhì)

1.設(shè)C是常數(shù),則D(C)=0;

2.若C是常數(shù),則D(CX)=C2

D(X);

3.設(shè)X與Y是兩個隨機變量,則

D(X+Y)=D(X)+D(Y)+2E{[X-E(X)][Y-E(Y)]}

=D(X)+D(Y)+2[E(XY)-E(X)E(Y)]

4.

D(X)=0P{X=E(X)}=1,第21頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1422推論:若X,Y相互獨立,由數(shù)學(xué)期望的性質(zhì)4得此性質(zhì)可以推廣到有限多個相互獨立的隨機變量之和的情況.第22頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1423

E{[X-E(X)][Y-E(Y)]}稱為隨機變量X和Y的協(xié)方差,記為Cov(X,Y),即

⑶Cov(X1+X2,Y)=Cov(X1,Y)+Cov(X2,Y)⑴Cov(X,Y)=Cov(Y,X)2.簡單性質(zhì)⑵Cov(aX,bY)=ab

Cov(X,Y)a,b是常數(shù)Cov(X,Y)=E{[X-E(X)][Y-E(Y)]}1.定義3)協(xié)方差和相關(guān)系數(shù)第23頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1424

Cov(X,Y)=E(XY)-E(X)E(Y)

可見,若X與Y獨立,Cov(X,Y)=0.計算協(xié)方差的一個簡單公式由協(xié)方差的定義及期望的性質(zhì),可得特別地

Cov(X,X)=E(X2)–[E(X)]2=D(X)D(X+Y)=D(X)+D(Y)+2Cov(X,Y)第24頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1425協(xié)方差的大小在一定程度上反映了X和Y相互間的關(guān)系,但它還受X與Y本身度量單位的影響.例如:Cov(kX,kY)=k2Cov(X,Y)為了克服這一缺點,對協(xié)方差進行標準化,這就引入了相關(guān)系數(shù)

.第25頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1426二、相關(guān)系數(shù)為隨機變量X和Y的相關(guān)系數(shù)

.定義:

設(shè)D(X)>0,D(Y)>0,稱在不致引起混淆時,記

.第26頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1427相關(guān)系數(shù)的性質(zhì):2.X和Y獨立時,

=0,但其逆不真.存在常數(shù)a,b(b≠0),使P{Y=a+bX}=1,即X和Y以概率1線性相關(guān).第27頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1428若ρ=0,則Y與X無線性關(guān)系;則Y與X有嚴格線性關(guān)系;若若0<|ρ|<1,|ρ|的值越接近于1,Y與X的線性相關(guān)程度越高;|ρ|的值越接近于0,Y與X的線性相關(guān)程度越弱.相關(guān)系數(shù)刻劃了X和Y間“線性相關(guān)”的程度.第28頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1429但對下述情形,獨立與不相關(guān)等價若(X,Y)服從二維正態(tài)分布,則X與Y獨立X與Y不相關(guān)前面,我們已經(jīng)看到:若X與Y獨立,則X與Y不相關(guān),但由X與Y不相關(guān),不一定能推出X與Y獨立.第29頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1430定理:N個獨立正態(tài)隨機變量之和仍然服從正態(tài)分布正態(tài)分布的重要性質(zhì)推廣:N個獨立正態(tài)隨機變量的任意線性組合仍然服從正態(tài)分布第30頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1431例、設(shè)X~N(1,2),Y~N(0,1),且X和Y相互獨立,試求Z=2X-Y+3的概率密度.

任意線性組合是正態(tài)分布,即:解:X~N(1,2),Y~N(0,1),且X與Y獨立,故X和Y的D(Z)=4D(X)+D(Y)=8+1=9E(Z)=2E(X)-E(Y)+3=2+3=5Z~N(E(Z),D(Z))故Z

的概率密度是即:Z~N(5,32)第31頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1432矩陣代數(shù)§1.1定義§1.2矩陣的運算§1.3行列式§1.4矩陣的逆§1.5矩陣的秩§1.6特征值、特征向量和矩陣的跡§1.7正定矩陣和非負定矩陣§1.8特征值的極值問題第32頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1433§1.1定義p×q矩陣:p維列向量:q維行向量:

a′=(a1,a2,?,aq)向量a的長度:單位向量:第33頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1434若A的所有元素全為零,則稱A為零矩陣,記作A=0pq或A=0。若p=q,則稱A為p階方陣,a11,a22,?,app稱為它的對角線元素,其他元素aij(i≠j)稱為非對角線元素。若方陣A的對角線下方的元素全為零,則稱A為上三角矩陣。顯然,aij=0,i>j。若方陣A的對角線上方的元素全為零,則稱A為下三角矩陣。顯然,aij=0,i<j。若方陣A的所有非對角線元素均為零,則稱A為對角矩陣,簡記為A=diag(a11,a22,?,app)。若p階對角矩陣A的所有p個對角線元素均為1,則稱A為p階單位矩陣,記作A=Ip或A=I。第34頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1435若將矩陣A的行與列互換,則得到的矩陣稱為A的轉(zhuǎn)置,記作A′,即若方陣A滿足A′=A,則稱A為對稱矩陣。顯然,aij=aji。第35頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1436§1.2矩陣的運算若A=(aij):p×q,B=(bij):p×q,則A與B的和定義為A+B=(aij+bij):p×q若c為一常數(shù),則它與A的積定義為cA=(caij):p×q若A=(aij):p×q,B=(bij):q×r,則A與B的積定義為第36頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1437運算規(guī)律(1)(A+B)′=A′+B′。(2)(AB)′=B′A′。(3)A(B1+B2)=AB1+AB2。(4)

。(5)c(A+B)=cA+cB。第37頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1438若兩個p維向量a和b滿足a′b=a1b1+a2b2+?+apbp=0

則稱a和b正交。幾何上,正交向量之間相互垂直。若方陣A滿足AA′=I,則稱A為正交矩陣。顯然,

,

i=1,2,?,p,即A的p個行向量為單位向量;

,即A的p個行向量相互正交。又從A′A=I得: (j≠k),即A的p個列向量也是一組正交單位向量。若方陣A滿足A2=A,則稱A為冪等矩陣。對稱的冪等矩陣稱為投影矩陣。第38頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1439正交矩陣A的幾何意義將p維向量x看作是在Rp中的一個點,則x的各分量是該點在相應(yīng)各坐標軸上的坐標。正交陣A的行列式非1即?1。若|A|=1,則正交變換y=Ax意味著對原p維坐標系作一剛性旋轉(zhuǎn)(或稱正交旋轉(zhuǎn)),y的各分量正是該點在新坐標系下的坐標;若|A|=?1,則包含了一個反射的坐標軸。當(dāng)p=2時,按逆時針方向?qū)⒅苯亲鴺讼祒1Ox2旋轉(zhuǎn)一個角度θ,所得新坐標系y1Oy2與原坐標系之間的變換為

當(dāng)p=3時同樣有著直觀的幾何展示。由于y′y=(Ax)′(Ax)=x′A′Ax=x′x

故在新、舊坐標系下,該點到原點的距離保持不變。第39頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1440矩陣的分塊設(shè)A=(aij):p×q,將它分成四塊,表示成

其中A11:k×l,A12:k×(q?l),A21:(p?k)×l, A22:(p?k)×(q?l)。若A和B有相同的分塊,則第40頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1441若C為q×r矩陣,分成

其中C11:l×m,C12:l×(r?m),C21:(q?l)×m,C22:(q?l)×(r?m),則有第41頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1442例1.2.2用矩陣分塊方法證明正交矩陣A:p×p的p個列向量和p個行向量都是一組正交單位向量。證明

將矩陣A分別按列向量和行向量分塊,并記

由A′A=I,得第42頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1443

于是

故有

即a1,a2,?,ap為一組正交單位向量。同理,由AA′=I可證a(1),a(2),?,a(p)也是一組正交單位向量。第43頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1444§1.3行列式p階方陣A=(aij)的行列式定義為

這里

表示對1,2,?,p的所有排列求和,τ(j1j2?jp)

是排列j1,j2,?,jp中逆序的總數(shù),稱它為這個排列的逆序數(shù),一個逆序是指在一個排列中一對數(shù)的前后位置與大小順序相反,即前面的數(shù)大于后面的數(shù)。例如,τ(3142)=1+τ(1342)=3+τ(1234)=3。第44頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1445行列式的一些基本性質(zhì)(1)若A的某行(或列)為零,則|A|=0。(2)|A′|=|A|。(3)若將A的某一行(或列)乘以常數(shù)c,則所得矩陣的行列式為c|A|。(4)若A是一個p階方陣,c為一常數(shù),則|cA|=cp|A|。(5)若互換A的任意兩行(或列),則行列式符號改變。(6)若A的某兩行(或列)相同,則行列式為零。(7)若將A的某一行(或列)的倍數(shù)加到另一行(或列),則所得行列式不變。(8)若A的某一行(或列)是其他一些行(或列)的線性組合,則行列式為零。第45頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1446(9)若A為上三角矩陣或下三角矩陣或?qū)蔷仃嚕瑒t

(10)若A和B均為p階方陣,則|AB|=|A||B|。(11)|AA′|≥0。(12)若A與B都是方陣,則(13)若A:p×q,B:q×p,則|Ip+AB|=|Iq+BA|例1.3.3設(shè)x,y為兩個p維向量,則|Ip+xy′|=1+y′x第46頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1447代數(shù)余子式設(shè)A為p階方陣,將其元素aij所在的第i行與第j列劃去之后所得(p?1)階矩陣的行列式,稱為元素aij的余子式,記為Mij。Aij=(?1)i+jMij稱為元素aij的代數(shù)余子式。有以下公式成立第47頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1448§1.4矩陣的逆若方陣A滿足|A|≠0,則稱A為非退化方陣;若|A|=0,則稱A為退化方陣。設(shè)A=(aij)是一非退化方陣,若方陣C滿足AC=I,則稱C為A的逆矩陣,記為C=A?1,A?1必是一個非退化矩陣。令B′=(Aij)/|A|

其中Aij是aij的代數(shù)余子式,則容易驗證AB=BA=I。由于C=BAC=B,因此A?1是惟一的,且(A?1)?1=A。第48頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1449逆矩陣的基本性質(zhì)(1)AA?1=A?1A=I。(2)(A′)?1=(A?1)′。(3)若A和C均為p階非退化方陣,則(AC)?1=C?1A?1(4)|A?1|=|A|?1。(5)若A是正交矩陣,則A?1=A′。(6)若A=diag(a11,a22,?,app)非退化(即aii≠0,i=1,2,?,p),則

(7)若A和B為非退化方陣,則第49頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1450§1.5矩陣的秩一組同維向量a1,a2,?,an,若存在不全為零的常數(shù)c1,c2,?,cn,使得c1a1+c2a2+?+cnan=0

則稱該組向量線性相關(guān)。若向量a1,a2,?,an不線性相關(guān),就稱為線性無關(guān)。矩陣A的線性無關(guān)行向量的最大數(shù)目稱為行秩,其線性無關(guān)列向量的最大數(shù)目稱為列秩。矩陣的行秩和列秩必相等,故統(tǒng)一將其稱為A的秩,記作rank(A)。第50頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1451矩陣秩的基本性質(zhì)(1)rank(A)=0,當(dāng)且僅當(dāng)A=0。(2)若A為p×q矩陣,且A≠0,則1≤rank(A)≤min{p,q}(若rank(A) =p,則稱A為行滿秩的;若rank(A)=q,則稱A為列滿秩的)。(3)rank(A)=rank(A′)。(4)

。(5)rank(AB)≤min{rank(A),rank(B)}。(6)若A和C為非退化方陣,則rank(ABC)=rank(B)(7)p階方陣A是非退化的,當(dāng)且僅當(dāng)rank(A)=p(稱作A滿秩)。(8)rank(AA′)=rank(A′A)=rank(A)。第51頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1452§1.6特征值、特征向量和矩陣的跡一、特征值和特征向量二、矩陣的跡第52頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1453一、特征值和特征向量設(shè)A是p階方陣,若對于一個數(shù)λ,存在一個p維非零向量x,使得Ax=λx,則稱λ為A的一個特征值或特征根,而稱x為A的屬于特征值λ的一個特征向量。依該定義有,(A?λI)x=0,而x≠0,故必有|A?λI|=0 |A?λI|是λ的p次多項式,稱為特征多項式。上式有p個根 (可能有重根),記作λ1,λ2,?,λp,它們可能為實數(shù),也可能為復(fù)數(shù)(雖然A是實數(shù)矩陣)。反過來,若λi是上式的一個根,則A?λiI為退化矩陣,故存在一個p維非零向量xi,使得(A?λiI)xi=0

即λi是A的一個特征值,而xi是相應(yīng)的特征向量。今后,一般取xi為單位向量,即滿足xi′xi=1。第53頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1454特征值和特征向量的基本性質(zhì)(1)A和A′有相同的特征值。(2)若A和B分別是p×q和q×p矩陣,則AB和BA有相同的非零特征值。(3)若A為實對稱矩陣,則A的特征值全為實數(shù),p個特征值按大小依次表示為λ1≥λ2≥?≥λp。若λi≠λj,則相應(yīng)的特征向量xi和xj必正交,即xi′xj=0。(4)若A=diag(a11,a22,?,app),則a11,a22,?,app為A的p個特征值,相應(yīng)的特征向量分別為e1=(1,0,?,0)′,e2=(0,1,0,?,0)′,?,ep=(0,?,0,1)′。(5)

,即A的行列式等于其特征值的乘積??梢?,A

為非退化矩陣,當(dāng)且僅當(dāng)A的特征值均不為零;A為退化矩陣,當(dāng)且僅當(dāng)A至少有一個特征值為零。第54頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1455例1.6.4設(shè)方陣A:p×p的p個特征值為λ1,λ2,?,λp,試證: (i)若A可逆,相應(yīng)于λ1,λ2,?,λp的特征向量分別為x1,x2,?,xp,則A?1的p個特征值為

,相應(yīng)的特征向量仍為x1,x2,?,xp; (ii)若A為冪等矩陣,則A的特征值為0或1; (iii)若A為正交矩陣,則A的特征值為1或?1。(6)若A為p階對稱矩陣,則存在正交矩陣T及對角矩陣Λ=diag(λ1,λ2,?,λp),使得A=TΛT′上式兩邊右乘T,得AT=TΛ

將T按列向量分塊,并記作T=(t1,t2,?,tp),于是有(At1,At2,?,Atp)=(λ1t1,λ2t2,?,λptp)第55頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1456

故Ati=λiti,i=1,2,?,p

這表明λ1,λ2,?,λp是A的p個特征值,而t1,t2,?,tp為相應(yīng)的(一組正交單位)特征向量。

稱之為A的譜分解。(7)若A為p×q實數(shù)矩陣,則存在p階正交矩陣U和q階正交矩陣V,使得A=UΛV′

其中Λ的(i,i)元素λi≥0,i=1,2,?,min(p,q),其他元素均為零。正數(shù)λi稱為A的奇異值,上述分解式稱為奇異值分解。第56頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1457設(shè)rank(A)=k

,則矩陣Λ中只有k個正數(shù),記為λ1,λ2,?,λk。將正交矩陣U和V按列分塊有,U=(u1,u2,?,up),V=(v1,v2,?,vq),令U1=(u1,u2,?,uk),V1=(v1,v2,?,vk),Λ1=diag(λ1,λ2,?,λk),則得到奇異值分解的另一表達式:

這里u1,u2,?,uk是一組p維正交單位向量,v1,v2,?,vk是一組q維正交單位向量,即有U1′U1=V1′V1=I。由A=UΛV′知,AA′=UΛ2U′,A′A=VΛ2V′,于是AA′ui=λi2ui,i=1,2,?,pA′Avi=λi2vi,i=1,2,?,q

是AA′的p個特征值,u1,u2,?,up

是相應(yīng)的特征向量;

是A′A

的q個特征值,v1,v2,?,vq

是相應(yīng)的特征向量。第57頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1458二、矩陣的跡設(shè)A為p階方陣,則它的對角線元素之和稱為A的跡,記作tr(A),即tr(A)=a11+a22+?+app方陣的跡具有下述基本性質(zhì):(1)tr(AB)=tr(BA)。特別地,tr(ab′)=b′a。(2)tr(A)=tr(A′)。(3)tr(A+B)=tr(A)+tr(B)。(4)

。第58頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1459(5)設(shè)A=(aij)為p×q矩陣,則(6)(7)設(shè)λ1,λ2,?,λp為方陣A的特征值,則tr(A)=λ1+λ2+?+λp(7)若A為投影矩陣,則tr(A)=rank(A)第59頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1460§1.7正定矩陣和非負定矩陣設(shè)A是p階對稱矩陣,x是一p維向量,則x′Ax稱為A的二次型。若對一切x≠0,有x′Ax>0,則稱A為正定矩陣,記作A>0;若對一切x,有x′Ax≥0,則稱A為非負定矩陣,記作A≥0。對非負定矩陣A和B,A>B表示A?B>0;A≥B表示A?B≥0。第60頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1461正定矩陣和非負定矩陣的基本性質(zhì)(1)設(shè)A是對稱矩陣,則A是正定(或非負定)矩陣,當(dāng)且僅當(dāng)A的所有特征值均為正(或非負)。(2)設(shè)A≥0,則A的秩等于A的正特征值個數(shù)。(3)若A>0,則A?1>0。(4)設(shè)A≥0,則A>0,當(dāng)且僅當(dāng)|A|≠0。(5)若A>0(或≥0),則|A|>0(或≥0)。(6)BB′≥0,對一切矩陣B成立。(7)若A>0(或≥0),則存在>0(或≥0),使得

稱為A的平方根矩陣。(8)設(shè)A≥0是p階秩為r的矩陣,則存在一個秩為r(即列滿秩)的p×r矩陣B,使得A=BB′。第61頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1462§1.8特征值的極值問題(1)若A是p階對稱矩陣,其特征值依次為λ1≥λ2≥?≥λp,則(2)若A是p階對稱矩陣,B是p階正定矩陣,μ1≥μ2≥?≥μp是B?1A的p個特征值,則(3)柯西—許瓦茲不等式(Cauchy?Schwarz)若B>0,則(x′y)2≤(x′Bx)(y′B?1y)第62頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1463第二節(jié)基本概念一隨機向量二多元分布三隨機向量的數(shù)字特征

第63頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1464

第64頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1465二、多元分布

第65頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1466

第66頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1467

第67頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1468

第68頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1469

第69頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1470

第70頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1471

第71頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1472

第72頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1473三、隨機向量的數(shù)字特征

第73頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1474

第74頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1475

第75頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1476

第76頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1477

第77頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1478

第78頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1479第三節(jié)多元正態(tài)分布一多元正態(tài)分布的定義

二多元正態(tài)分布的性質(zhì)

第79頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1480一、多元正態(tài)分布的定義

第80頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1481

第81頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1482

第82頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1483

第83頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1484二、多元正態(tài)分布的性質(zhì)

第84頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1485

第85頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1486

第86頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1487第87頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1488第88頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1489第89頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1490

第90頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1491第二節(jié)

數(shù)理統(tǒng)計基礎(chǔ)一、樣本及其抽樣分布二、參數(shù)估計三、假設(shè)檢驗第91頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1492一、樣本及其抽樣分布例:設(shè)某廠1年內(nèi)生產(chǎn)了1,000,000只燈泡,我們需要考察這一百萬只燈泡的壽命情況。

1)總體研究對象的某項數(shù)量指標的值的全體稱為總體總體中所包含的個體的個數(shù)稱為總體的容量.總體中每個元素稱為個體。每個個體是一個實數(shù)第92頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1493每只燈泡的壽命是隨機的,因此可以將其看作一個隨機變量X,而X的取值存在一定的分布。這樣,總體就可以用一個隨機變量及其分布來描述。我們對總體的研究就可以轉(zhuǎn)化為對該隨機變量及其性質(zhì)的研究。

1)總體總體就是一個隨機變量第93頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1494這一抽取過程稱為“抽樣”,所抽取的部分個體稱為樣本。樣本中所包含的個體數(shù)目稱為樣本容量2)樣本總體分布一般是未知,或只知道是包含未知參數(shù)的分布,為推斷總體分布及各種特征,按一定規(guī)則從總體中抽取若干個體進行觀察試驗,以獲得有關(guān)總體的信息。第94頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1495一旦取定一組樣本X1,…,Xn

,就可以通過觀察得到n個具體的數(shù)(x1,x2,…,xn)。稱(x1,x2,…,xn)為樣本的一次觀察值,簡稱樣本值

.最常用的一種抽樣叫作“簡單隨機抽樣”,其特點:1.代表性:

X1,X2,…,Xn中每一個與所考察的總體有相同的分布.2.獨立性:

X1,X2,…,Xn是相互獨立的隨機變量.2)樣本第95頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1496由樣本觀察值去推斷總體情況,需要對樣本值進行“加工”,這就要構(gòu)造一些樣本的函數(shù),它把樣本中所含的(某一方面)的信息集中起來.1)統(tǒng)計量這種不含任何未知參數(shù)的樣本的函數(shù)稱為統(tǒng)計量.它是完全由樣本決定的量.二、統(tǒng)計量與抽樣分布函數(shù)第96頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1497幾個常見統(tǒng)計量樣本平均值它反映了總體均值的信息樣本方差它反映了總體方差的信息樣本標準差第97頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1498統(tǒng)計量值第98頁,課件共153頁,創(chuàng)作于2023年2月2023/7/1499幾個概念之間的關(guān)系總體:X樣本:X1,X2,…,Xn抽樣實驗樣本觀察值:x1,x2,…,xn統(tǒng)計量:f(X1,X2,…,Xn)代入統(tǒng)計量值:f(x1,x2,…,xn)第99頁,課件共153頁,創(chuàng)作于2023年2月2023/7/14100

2)統(tǒng)計三大抽樣分布記為定義:

設(shè)相互獨立,都服從標準正態(tài)分布N(0,1),則稱隨機變量:

所服從的分布為自由度為

n

分布.Ⅰ、分布自由度(degreeoffreedom,df):是指當(dāng)以樣本的統(tǒng)計量來估計總體的參數(shù)時,樣本中獨立或能自由變化的數(shù)據(jù)的個數(shù)稱為該統(tǒng)計量的自由度例如,在估計總體的平均值時,樣本中的n個數(shù)全部加起來,其中任何一個數(shù)都和其他數(shù)據(jù)相獨立,從其中抽出任何一個數(shù)都不影響其他數(shù)據(jù)(這也是隨機抽樣所要求的)。因此一組數(shù)據(jù)中每一個數(shù)據(jù)都是獨立的,所以自由度就是估計總體參數(shù)時獨立數(shù)據(jù)的數(shù)目,而平均值是根據(jù)n個獨立數(shù)據(jù)來估計的,因此自由度為n。第100頁,課件共153頁,創(chuàng)作于2023年2月2023/7/14101如圖所示:例如:的點為分布的上α分位點對于給定的正數(shù),稱滿足條件:分布的上α分位數(shù)第101頁,課件共153頁,創(chuàng)作于2023年2月2023/7/14102

定義:

設(shè)X~N(0,1),Y~,且X與Y相互獨立,則稱變量:服從自由度為n的t分布.Ⅱ、t分布記為:t~t(n)t分布又稱為學(xué)生氏(Student)分布t分布的密度函數(shù)關(guān)于t=0對稱;當(dāng)n充分大時,t分布近似于標準正態(tài)分布N(0,1)第102頁,課件共153頁,創(chuàng)作于2023年2月2023/7/14103t分布的上α分位點:對于給定的正數(shù)α∈(0,1),稱滿足條件:的點為t(n)分布的上α分位點如圖所示:第103頁,課件共153頁,創(chuàng)作于2023年2月2023/7/14104第104頁,課件共153頁,創(chuàng)作于2023年2月2023/7/14105Ⅲ、F分布服從自由度為n1及n2的F分布,n1稱為第一自由度,n2稱為第二自由度。F~F(n1,n2).記作:

定義:

設(shè)

,且U與V相互獨立,則稱隨機變量:~F(n2,n1)若F~F(n1,n2),則1/F~F(n2,n1)第105頁,課件共153頁,創(chuàng)作于2023年2月2023/7/14106F分布的上α分位點的點Fα(n1,n2)為F(n1,n2)分布的上α分位點如圖所示:第106頁,課件共153頁,創(chuàng)作于2023年2月2023/7/14107第107頁,課件共153頁,創(chuàng)作于2023年2月2023/7/141083、幾個重要的抽樣分布定理特別地,當(dāng)總體為正態(tài)分布時,以下將給出幾個重要的抽樣分布定理.第108頁,課件共153頁,創(chuàng)作于2023年2月2023/7/14109

定理1(樣本均值的分布)設(shè)X1,X2,…,Xn是來自正態(tài)總體的樣本,是樣本均值,則有第109頁,課件共153頁,創(chuàng)作于2023年2月2023/7/14110定理2

(樣本方差的分布)設(shè)X1,X2,…,Xn是來自正態(tài)總體的樣本,分別為樣本均值和樣本方差,則有第110頁,課件共153頁,創(chuàng)作于2023年2月2023/7/14111

定理3設(shè)X1,X2,…,Xn是取自正態(tài)總體的樣本,分別為樣本均值和樣本方差,則有第111頁,課件共153頁,創(chuàng)作于2023年2月2023/7/14112

定理3設(shè)X1,X2,…,Xn是取自正態(tài)總體的樣本,分別為樣本均值和樣本方差,則有第112頁,課件共153頁,創(chuàng)作于2023年2月2023/7/14113

定理4若:,則定理5若:,則定理6若:,且是冪等矩陣則其中第113頁,課件共153頁,創(chuàng)作于2023年2月2023/7/14114點估計估計量的評選標準區(qū)間估計

二、參數(shù)估計第114頁,課件共153頁,創(chuàng)作于2023年2月2023/7/14115參數(shù)估計問題的一般提法X1,X2,…,Xn要依據(jù)該樣本對參數(shù)θ作出估計,或估計θ的某個已知函數(shù)g(θ)?,F(xiàn)在從該總體抽樣,得到樣本設(shè)有一個統(tǒng)計總體,總體的分布函數(shù)為F(x,

θ),其中θ為未知參數(shù)(θ可以是向量).

這類問題稱為參數(shù)估計.

二、參數(shù)估計第115頁,課件共153頁,創(chuàng)作于2023年2月2023/7/141161、點估計概念隨機抽查100個嬰兒,…得100個體重數(shù)據(jù)10,7,6,6.5,5,5.2,

…呢?據(jù)此,我們應(yīng)如何估計和例1

已知某地區(qū)新生嬰兒的體重,未知第116頁,課件共153頁,創(chuàng)作于2023年2月2023/7/14117

為估計:我們需要構(gòu)造出適當(dāng)?shù)臉颖镜暮瘮?shù)T(X1,X2,…Xn)

,每當(dāng)有了樣本,就代入該函數(shù)中算出一個值,用來作為的估計值.稱統(tǒng)計量T(X1,X2,…Xn)

為參數(shù)的一個點估計量把樣本的一組觀察值代入點估計量T(X1,X2,…Xn)

中,就可以得到參數(shù)的一個點估計值。第117頁,課件共153頁,創(chuàng)作于2023年2月2023/7/14118我們知道,若,則

.用樣本體重的均值估計.類似地,用樣本體重的方差估計.第118頁,課件共153頁,創(chuàng)作于2023年2月2023/7/14119樣本均值是否是的一個好的估計量?樣本方差是否是的一個好的估計量?

2、估計量的評選標準問題是:估計量的常用評判標準:1.無偏性2.有效性3.一致性第119頁,課件共153頁,創(chuàng)作于2023年2月2023/7/14120估計量是隨機變量,對于不同的樣本值會得到不同的估計值.我們希望估計值在未知參數(shù)真值附近擺動,而它的期望值等于未知參數(shù)的真值.這就導(dǎo)致無偏性這個標準.1)、無偏性則稱為的無偏估計

.設(shè)是未知參數(shù)的估計量,若第120頁,課件共153頁,創(chuàng)作于2023年2月2023/7/14121所以無偏估計以方差小者為好,這就引進了有效性這一概念.的大小來決定二者誰更優(yōu).和一個參數(shù)往往有不止一個無偏估計,若和都是參數(shù)的無偏估計量,我們可以比較由于2)、有效性第121頁,課件共153頁,創(chuàng)作于2023年2月2023/7/141222)、有效性D()≤D()則稱較有效.都是參數(shù)的無偏估計量,若對任意,設(shè)和且至少對于某個上式中的不等號成立,第122頁,課件共153頁,創(chuàng)作于2023年2月2023/7/141233)、一致性任意,當(dāng)時依概率收斂于,則稱為的一致估計量.設(shè)是參數(shù)的估計量,若對于無偏性和有效性都是在樣本容量n固定的前提下提出來的,我們自然希望隨著樣本容量的增大,一個估計量的值能穩(wěn)定于待估參數(shù)的真實值,因此對估計量又有下述一致性的要求:第123頁,課件共153頁,創(chuàng)作于2023年2月2023/7/14124

引言前面,我們討論了參數(shù)點估計.它是用樣本算得的一個值去估計未知參數(shù).但是,點估計值僅僅是未知參數(shù)的一個近似值,它沒有反映出這個近似值的誤差范圍,使用起來把握不大.區(qū)間估計正好彌補了點估計的這個缺陷.

3、區(qū)間估計第124頁,課件共153頁,創(chuàng)作于2023年2月2023/7/14125

譬如,在估計新生嬰兒體重的問題中,若我們根據(jù)一個實際樣本,得到嬰兒平均體重θ的一個點估計值為3千克若我們能給出一個區(qū)間,在此區(qū)間內(nèi)我們合理地相信θ

的真值位于其中.這樣對嬰兒平均體重的估計就有把握多了.實際上,θ的真值可能大于3千克,也可能小于3千克.第125頁,課件共153頁,創(chuàng)作于2023年2月2023/7/14126也就是說,我們希望確定一個區(qū)間,使我們能以比較高的可靠程度相信它包含真參數(shù)值.這里所說的“可靠程度”是用概率來度量的,稱為置信度或置信水平.習(xí)慣上把置信水平記作,這里是一個很小的正數(shù).第126頁,課件共153頁,創(chuàng)作于2023年2月2023/7/14127置信水平的大小是根據(jù)實際需要選定的.置信區(qū)間.稱區(qū)間為的置信水平為的例如,通常選取置信水平1-α=0.99、0.95、0.90根據(jù)一個實際樣本,由給定的置信水平,我小的區(qū)間,使們求出一個盡可能第127頁,課件共153頁,創(chuàng)作于2023年2月2023/7/14128

1)置信區(qū)間定義設(shè)是一個待估參數(shù),給定X1,X2,…Xn確定的兩個統(tǒng)計量若由樣本滿足和分別稱為置信下限和置信上限.則稱區(qū)間是的置信水平(置信度)為

的置信區(qū)間.第128頁,課件共153頁,創(chuàng)作于2023年2月2023/7/141291.要求以很大的可能被包含在區(qū)間內(nèi),就是說,概率要盡可能大.即要求估計盡量可靠.2.估計的精度要盡可能的高.即要求區(qū)間長度盡可能短,或能體現(xiàn)該要求的其它準則.可靠度與精度是一對矛盾,一般是在保證可靠度的條件下盡可能提高精度.區(qū)間估計的兩點要求第129頁,課件共153頁,創(chuàng)作于2023年2月2023/7/14130在求置信區(qū)間時,要查表求分位點.2)、置信區(qū)間的求法設(shè),對隨機變量X,稱滿足的點為X的概率分布的上分位點.定義第130頁,課件共153頁,創(chuàng)作于2023年2月2023/7/14131例:若X為連續(xù)型隨機變量,求X的置信度為1-α的置信區(qū)間置信區(qū)間解:設(shè)所求的置信區(qū)間為(a,b),則:第131頁,課件共153頁,創(chuàng)作于2023年2月2023/7/14132我們總是希望置信區(qū)間盡可能短.從上例可以看出,置信區(qū)間是不惟一的事實上,若X的概率分布函數(shù)為f(u),取置信水平為95%,則對任意兩個數(shù)a和b,只要它們包含了f(u)下95%的面積,就確定一個95%的置信區(qū)間.第132頁,課件共153頁,創(chuàng)作于2023年2月2023/7/14133在概率密度為單峰且對稱的情形,當(dāng)a=-b時求得的置信區(qū)間的長度為最短.a=-b第133頁,課件共153頁,創(chuàng)作于2023年2月2023/7/14134即使概率密度不對稱,如χ2分布,F(xiàn)分布,習(xí)慣上仍取對稱的分位點來計算置信區(qū)間.第134頁,課件共153頁,創(chuàng)作于2023年2月2023/7/14135~N(0,1)解:選μ的點估計為,求參數(shù)的置信度為的置信區(qū)間.例1設(shè)X1,…Xn是取自的樣本,尋找未知參數(shù)的一個良好估計量.尋找一個待估參數(shù)及其估計量的函數(shù),要求其分布為已知.有了分布,就可以求出U取值于任意區(qū)間的概率.明確問題,是求什么參數(shù)的置信區(qū)間?置信水平是多少?第135頁,課件共153頁,創(chuàng)作于2023年2月2023/7/14136對給定的置信水平查正態(tài)分布表得對于給定的置信水平,根據(jù)U的分布,確定一個區(qū)間,使得U取值于該區(qū)間的概率為置信水平.為什么這樣取?第136頁,課件共153頁,創(chuàng)作于2023年2月2023/7/14137從中解得也可簡記為于是所求的置信區(qū)間為第137頁,課件共153頁,創(chuàng)作于2023年2月2023/7/141383)、單正態(tài)總體均值的置信區(qū)間并設(shè)為來自總體的樣本,分別為樣本均值和樣本方差.統(tǒng)計量σ2未知σ2已知置信區(qū)間1)均值μ的置信區(qū)間(置信水平為1-α

第138頁,課件共153頁,創(chuàng)作于2023年2月2023/7/14139假設(shè)檢驗的基本思想和方法假設(shè)檢驗的一般步驟單正態(tài)總體均值的假設(shè)檢驗單正態(tài)總體方差的假設(shè)檢驗四、假設(shè)檢驗第139頁,課件共153頁,創(chuàng)作于2023年2月2023/7/14140假設(shè)檢驗參數(shù)假設(shè)檢驗非參數(shù)假設(shè)檢驗這類問題稱作假設(shè)檢驗問題.總體分布已知,檢驗關(guān)于未知參數(shù)的某個假設(shè)總體分布未知時的假設(shè)檢驗問題在本節(jié)中,我們將討論不同于參數(shù)估計

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論