《應(yīng)用多元分析》第三版(第二章)

《應(yīng)用多元分析》第三版ppt第二章大綱CATALOGUE目錄數(shù)據(jù)矩陣與多元分布多元正態(tài)分布及其性質(zhì)多元正態(tài)總體均值向量和協(xié)方差矩陣估計(jì)判別分析與聚類分析初步主成分分析及其應(yīng)用因子分析模型及其求解方法01數(shù)據(jù)矩陣與多元分布由多個(gè)變量的觀測(cè)值按一定順序排列而成的矩陣，行表示觀測(cè)個(gè)體，列表示變量。數(shù)據(jù)矩陣定義數(shù)據(jù)矩陣類型數(shù)據(jù)矩陣性質(zhì)根據(jù)數(shù)據(jù)類型不同，可分為連續(xù)型、離散型和混合型數(shù)據(jù)矩陣。具有維度、秩、跡等基本性質(zhì)，是進(jìn)行多元統(tǒng)計(jì)分析的基礎(chǔ)。030201數(shù)據(jù)矩陣基本概念03多元分布的矩包括均值向量、協(xié)方差矩陣和相關(guān)系數(shù)矩陣等，用于描述多元分布的數(shù)字特征。01多元分布定義描述多個(gè)隨機(jī)變量聯(lián)合分布情況的概率分布，是一元分布的推廣。02多元正態(tài)分布最常見的一種多元分布，具有很多良好的性質(zhì)，如線性變換不變性、獨(dú)立性與不相關(guān)性等。多元分布及其性質(zhì)01樣本各變量的均值構(gòu)成的向量，是總體均值向量的估計(jì)。樣本均值向量02反映樣本各變量之間協(xié)方差關(guān)系的矩陣，是總體協(xié)方差矩陣的估計(jì)。樣本協(xié)方差矩陣03具有無(wú)偏性、一致性等優(yōu)良性質(zhì)，是進(jìn)行多元統(tǒng)計(jì)分析的重要工具。樣本均值向量與協(xié)方差矩陣的性質(zhì)樣本均值向量與協(xié)方差矩陣數(shù)據(jù)標(biāo)準(zhǔn)化處理提高數(shù)據(jù)分析的準(zhǔn)確性和可靠性；消除指標(biāo)之間的量綱影響；避免數(shù)值問(wèn)題，如計(jì)算過(guò)程中的溢出等。數(shù)據(jù)標(biāo)準(zhǔn)化的意義將數(shù)據(jù)按比例縮放，使之落入一個(gè)小的特定區(qū)間，以去除數(shù)據(jù)的單位限制，將其轉(zhuǎn)化為無(wú)量綱的純數(shù)值，便于不同單位或量級(jí)的指標(biāo)能夠進(jìn)行比較和加權(quán)。數(shù)據(jù)標(biāo)準(zhǔn)化定義包括Z-score標(biāo)準(zhǔn)化、最小-最大標(biāo)準(zhǔn)化、小數(shù)定標(biāo)標(biāo)準(zhǔn)化等。數(shù)據(jù)標(biāo)準(zhǔn)化的方法02多元正態(tài)分布及其性質(zhì)二元正態(tài)分布從二維隨機(jī)變量的分布出發(fā)，介紹二元正態(tài)分布的定義、性質(zhì)及其圖像。多元正態(tài)分布將二元正態(tài)分布的概念推廣到多維情況，給出多元正態(tài)分布的定義和性質(zhì)。密度函數(shù)與分布函數(shù)詳細(xì)解釋多元正態(tài)分布的密度函數(shù)和分布函數(shù)，以及它們的性質(zhì)和特點(diǎn)。多元正態(tài)分布定義期望、方差和協(xié)方差介紹多元正態(tài)分布的期望、方差和協(xié)方差等數(shù)字特征，以及它們與分布的關(guān)系。線性變換不變性闡述多元正態(tài)分布在線性變換下的不變性，即經(jīng)過(guò)線性變換后仍為多元正態(tài)分布。獨(dú)立性與相關(guān)性討論多元正態(tài)分布中各個(gè)分量之間的獨(dú)立性和相關(guān)性，以及它們對(duì)分布的影響。多元正態(tài)分布性質(zhì)在給定部分分量的條件下，推導(dǎo)多元正態(tài)分布的條件分布，并討論其性質(zhì)和應(yīng)用。條件分布通過(guò)積分或其他方式，求出多元正態(tài)分布中部分分量的邊緣分布，并討論其與其他分量的關(guān)系。邊緣分布結(jié)合實(shí)例，介紹條件分布和邊緣分布在統(tǒng)計(jì)推斷、回歸分析等領(lǐng)域的應(yīng)用。應(yīng)用舉例條件分布與邊緣分布獨(dú)立性、相關(guān)性與不相關(guān)性獨(dú)立性概念明確多元隨機(jī)變量獨(dú)立性的定義和性質(zhì)，以及獨(dú)立性在多元正態(tài)分布中的特殊性質(zhì)。相關(guān)性度量介紹相關(guān)系數(shù)、協(xié)方差矩陣等度量多元隨機(jī)變量相關(guān)性的方法和指標(biāo)，以及它們?cè)诙嘣龖B(tài)分布中的應(yīng)用。不相關(guān)性與獨(dú)立性關(guān)系討論不相關(guān)性與獨(dú)立性之間的關(guān)系和區(qū)別，特別是在多元正態(tài)分布中的表現(xiàn)和解釋。應(yīng)用舉例結(jié)合實(shí)例，闡述獨(dú)立性、相關(guān)性和不相關(guān)性在多元統(tǒng)計(jì)分析中的實(shí)際應(yīng)用和意義。03多元正態(tài)總體均值向量和協(xié)方差矩陣估計(jì)樣本均值向量作為均值向量估計(jì)對(duì)于多元正態(tài)總體，其均值向量可以通過(guò)樣本均值向量進(jìn)行估計(jì)，樣本均值向量是各個(gè)樣本點(diǎn)在每個(gè)維度上的均值組成的向量。樣本均值向量的性質(zhì)樣本均值向量是總體均值向量的無(wú)偏估計(jì)，當(dāng)樣本量增加時(shí)，樣本均值向量依概率收斂于總體均值向量。樣本均值向量的應(yīng)用在實(shí)際應(yīng)用中，可以通過(guò)抽取一定數(shù)量的樣本，計(jì)算樣本均值向量來(lái)估計(jì)總體的均值向量。樣本均值向量的定義樣本協(xié)方差矩陣的定義對(duì)于多元正態(tài)總體，其協(xié)方差矩陣可以通過(guò)樣本協(xié)方差矩陣進(jìn)行估計(jì)，樣本協(xié)方差矩陣是各個(gè)樣本點(diǎn)在各個(gè)維度上的偏差乘積的平均值組成的矩陣。樣本協(xié)方差矩陣的性質(zhì)樣本協(xié)方差矩陣是總體協(xié)方差矩陣的無(wú)偏估計(jì)，當(dāng)樣本量增加時(shí)，樣本協(xié)方差矩陣依概率收斂于總體協(xié)方差矩陣。樣本協(xié)方差矩陣的應(yīng)用在實(shí)際應(yīng)用中，可以通過(guò)抽取一定數(shù)量的樣本，計(jì)算樣本協(xié)方差矩陣來(lái)估計(jì)總體的協(xié)方差矩陣，從而了解總體各個(gè)維度之間的相關(guān)性和變異程度。010203樣本協(xié)方差矩陣作為協(xié)方差矩陣估計(jì)一致性隨著樣本量的增加，樣本均值向量和樣本協(xié)方差矩陣都依概率收斂于總體參數(shù)的真實(shí)值，即它們具有一致性。有效性在無(wú)偏估計(jì)量中，樣本均值向量和樣本協(xié)方差矩陣具有最小的方差，即它們是最有效的無(wú)偏估計(jì)量。無(wú)偏性樣本均值向量和樣本協(xié)方差矩陣都是總體參數(shù)的無(wú)偏估計(jì)量，即它們的期望值等于總體參數(shù)的真實(shí)值。估計(jì)量性質(zhì)置信區(qū)間對(duì)于總體均值向量和協(xié)方差矩陣的估計(jì)，可以構(gòu)造置信區(qū)間來(lái)表示估計(jì)的可靠程度。置信區(qū)間是指在一定置信水平下，總體參數(shù)落入的區(qū)間范圍。假設(shè)檢驗(yàn)在實(shí)際應(yīng)用中，常常需要對(duì)總體參數(shù)進(jìn)行假設(shè)檢驗(yàn)，即根據(jù)樣本信息對(duì)總體參數(shù)做出推斷。例如，可以檢驗(yàn)兩個(gè)總體的均值向量是否有顯著差異，或者檢驗(yàn)總體協(xié)方差矩陣是否等于某個(gè)給定的矩陣。置信區(qū)間與假設(shè)檢驗(yàn)04判別分析與聚類分析初步123判別分析是一種統(tǒng)計(jì)方法，用于判斷一個(gè)或多個(gè)定量變量的取值對(duì)樣本所屬類別的影響，進(jìn)而對(duì)未知類別的樣本進(jìn)行預(yù)測(cè)。判別分析定義判別函數(shù)是用于描述各類別之間差異的函數(shù)，通常由樣本的定量變量和類別變量構(gòu)成。判別函數(shù)判別準(zhǔn)則是用于評(píng)價(jià)判別效果的指標(biāo)，如誤判率、準(zhǔn)確率等。判別準(zhǔn)則判別分析基本概念聚類分析是一種無(wú)監(jiān)督學(xué)習(xí)方法，用于將樣本劃分為若干個(gè)類別，使得同一類別內(nèi)的樣本相似度較高，不同類別間的樣本相似度較低。聚類分析定義常見的聚類方法包括K-means聚類、層次聚類、密度聚類等。聚類方法聚類效果評(píng)價(jià)通常使用輪廓系數(shù)、Calinski-Harabasz指數(shù)等指標(biāo)。聚類效果評(píng)價(jià)聚類分析基本概念距離與相似度度量方法距離度量距離度量是衡量樣本間相似度的一種方法，常見的距離度量方法包括歐氏距離、曼哈頓距離、切比雪夫距離等。相似度度量相似度度量是衡量樣本間相似程度的另一種方法，常見的相似度度量方法包括余弦相似度、皮爾遜相關(guān)系數(shù)等。類別數(shù)確定類別數(shù)的確定通常需要根據(jù)實(shí)際問(wèn)題和數(shù)據(jù)特點(diǎn)進(jìn)行綜合考慮，可以使用一些統(tǒng)計(jì)方法或可視化工具進(jìn)行輔助判斷。類別命名與解釋對(duì)劃分出的各類別進(jìn)行命名和解釋，以便于理解和應(yīng)用。類別劃分原則類別劃分應(yīng)遵循同一類別內(nèi)差異最小、不同類別間差異最大的原則。類別劃分標(biāo)準(zhǔn)05主成分分析及其應(yīng)用線性變換與降維通過(guò)線性變換將原始變量轉(zhuǎn)換為新的綜合變量，實(shí)現(xiàn)數(shù)據(jù)降維。方差最大化主成分分析旨在找到使新變量方差最大的方向，以保留盡可能多的原始信息。不相關(guān)主成分各主成分之間相互獨(dú)立，即協(xié)方差為0，避免信息重疊。主成分分析基本原理協(xié)方差矩陣或相關(guān)矩陣根據(jù)原始數(shù)據(jù)計(jì)算協(xié)方差矩陣或相關(guān)矩陣。主成分表達(dá)式將特征向量按對(duì)應(yīng)特征值大小排序，得到各主成分的表達(dá)式。特征值與特征向量求解協(xié)方差矩陣或相關(guān)矩陣的特征值和特征向量。主成分求解方法通常選擇累計(jì)貢獻(xiàn)率達(dá)到80%或85%以上的前幾個(gè)主成分。累計(jì)貢獻(xiàn)率Kaiser準(zhǔn)則建議保留特征值大于1的主成分。特征值大于1通過(guò)繪制碎石圖（ScreePlot）觀察主成分變化的拐點(diǎn)，確定主成分個(gè)數(shù)。碎石圖主成分個(gè)數(shù)選擇標(biāo)準(zhǔn)主成分得分將原始數(shù)據(jù)代入主成分表達(dá)式，計(jì)算各樣本在各主成分上的得分。主成分解釋結(jié)合專業(yè)知識(shí)，對(duì)主成分的實(shí)際意義進(jìn)行解釋，如某主成分可能代表某種經(jīng)濟(jì)現(xiàn)象或社會(huì)現(xiàn)象。主成分應(yīng)用將主成分得分作為新的變量，用于聚類、回歸、評(píng)價(jià)等多元分析方法。主成分得分及解釋03020106因子分析模型及其求解方法因子分析基本概念通過(guò)降維技術(shù)，將多個(gè)相關(guān)變量轉(zhuǎn)化為少數(shù)幾個(gè)不相關(guān)的綜合指標(biāo)，即因子。因子分析假設(shè)條件包括變量間的相關(guān)性、因子載荷的特殊性等。因子分析數(shù)學(xué)模型描述觀測(cè)變量與因子之間的關(guān)系，包括因子載荷、公因子方差等概念。因子分析模型介紹通過(guò)主成分分析，將原始變量轉(zhuǎn)換為新的主成分，進(jìn)而求解因子載荷矩陣。主成分法基于概率統(tǒng)計(jì)原理，通過(guò)最大化樣本數(shù)據(jù)的似然函數(shù)來(lái)估計(jì)因子載荷矩陣。最大似然法如最小二乘法、迭代法等，可根據(jù)具體情況選擇使用。其他方法因子載荷矩陣求解方法使因子載荷矩陣結(jié)構(gòu)簡(jiǎn)化，便于對(duì)因子進(jìn)行解釋和命名。因子旋轉(zhuǎn)目的包括正交旋轉(zhuǎn)和斜交旋轉(zhuǎn)兩大類，具體方法如方差最大法、四次方最大法等。因子旋轉(zhuǎn)方法根據(jù)旋轉(zhuǎn)后的因子載荷矩陣，結(jié)合專業(yè)知識(shí)和實(shí)際背景，對(duì)因子進(jìn)行解釋和命名。因子解釋與命名因子旋轉(zhuǎn)與解釋因子得分概念