調查問卷的信度與效度精編版

1、效度？效度？信度？信度？whats reliability? whats validity?調查問卷的效度、信度2008年5月24日Research Center of Epidemiology and Health Statistics, Capital University of Medical Science 郭秀花 教授 一、一、 Questionnaire Validity 二、二、 Example of Validity 三、三、 Questionnaire Reliability 四、四、 Example of Reliability 五、五、 The correlation b

2、etween Reliability and ValidityMain ContentPreparative Knowledge1.誤差公理誤差公理l 誤差(error)是指對事物某一特征的度量值偏離真實值的部分，即測定值與真實值之差，樣本統(tǒng)計量與總體參數之差。l 沒有一項研究推論能夠達到百分之百的真實。 No study is free of errors, the inferences are never perfectly valid.l 誤差公理：實驗結果都會有誤差，誤差自始至終存在于一切科學實驗的過程之中。 2.2.誤差的種類誤差的種類(types of error)(types o

3、f error)l （1 1）隨機誤差（）隨機誤差（random errorrandom error）l 隨機誤差是由不確定原因引起的，不可避隨機誤差是由不確定原因引起的，不可避免和消除。免和消除。 其偏離總體的方向不能確定。包其偏離總體的方向不能確定。包括隨機測量誤差和抽樣誤差。括隨機測量誤差和抽樣誤差。l l 隨機測量誤差（random measurement error） ：沒有固定的傾向，可使多次觀測結果有大有小。l 抽樣誤差（sample error） ：由于抽樣造成的樣本指標與總體指標之間的差別。（2 2）系統(tǒng)誤差系統(tǒng)誤差（systematic errorsystematic er

4、ror）l 是由于偏倚（使研究結果按照一個方向偏離總體， bias）產生的錯誤結果，可，可校正和消除。校正和消除。 l(3) 過失誤差（gross error)是由于科研設計錯誤，或實驗者的主觀片面、粗心大意引起的誤差。必須避免和剔除！必須避免和剔除！l 問卷測驗中測量誤差通常來源于兩個方面：l 一是產生于問卷測驗過程中的誤差，稱為測量誤差（measurement Error），也稱為隨機誤差（random error）；l 二是由問卷的結構質量造成的誤差，稱為系統(tǒng)誤差（system Error）。lmeasurement Error reliabilitylsystem Error vali

5、dityl 一、調查問卷的效度一、調查問卷的效度lThe validity of a questionnaireThe validity of measureslThe question of validity is how far can we be sure that a measure really does reflect the concept to which it is supposed to be referring. l 效度（validity）通常是指問卷的有效性和正確性，亦即問卷能夠測量出其所欲測量特性的程度。l 對于一個標準測驗來說，效度比信度更為重要。1.效度分析的意

6、義l 效度是問卷調查研究中最重要的特征，問卷調查的目的就是要獲得高效度的測量與結論，效度越高表示該問卷測驗的結果所能代表要測驗的行為的真實度越高，越能夠達到問卷測驗目的，該問卷才正確而有效。l 問卷的準確性或稱為有效性是用問卷的效度加以刻劃的，它反映了對問卷的系統(tǒng)誤差的控制程度。 2 2、效度的定義、效度的定義l 效度是指問卷測驗的準確性，即測驗能夠反映所要測量特性的程度.l 其包括兩個方面的含義：一是問卷測驗的目的；二是問卷對測量目標的測量精確度和真實性。效度是一個具有相對性、連續(xù)性、間接性的概念。l 在測量理論中，效度被定義為在一系列測量中，與測量目的有關的真變異數 ( 即有效變異 ) 與

7、總變異數之比：222xvxySSrr2xy 表示測量的效度系數，Sv2 代表有效變異數，Sx2 代表總變異數。 3.常用的效度指標l 確定一個問卷效度的方法，通常是以答卷者的問卷得分和另一個效度標準求相關，以其相關系數的大小來表示效度。如果相關系數高，則該問卷的效度就高。l 一般常用的效度指標有內容效度、結構效度。(1)內容效度 (content validity)l 內容效度是指問卷內容的貼切性（relevance）和代表性（representativeness）,即問卷內容能否反應所要測量的特質，能否達到測驗目的，較好地代表所欲測量的內容和引起預期反應的程度。內容效度常以題目分布的合理性來

8、判斷，屬于命題的邏輯分析，所以，內容效度也稱為“邏輯效度” (logical validity)、“內在效度（intrinsic Validity）”、“循環(huán)效度（circular validity）”。l l 內容效度的評價主要通過經驗判斷進行，通?？紤]3方面的問題：l 其一是項目所測量的是否真屬于應測量的領域；l 其二是測驗所包含的項目是否覆蓋了應測領域的各個方面；l 其三是測驗題目的構成比例是否恰當。 l 常用的內容效度的評價方法有兩種：l 一是專家法，即請有關專家對問卷題目與原來的內容范圍是否符合進行分析,作出判斷，看問卷題目是否較好地代表了原來的內容。l 二是統(tǒng)計分析法，即從同一內容

9、總體中抽取兩套問卷，分別對同一組答卷者進行測驗, 兩種問卷的相關系數就可用來估計問卷的內容效度。l 計算某個問題與去掉此問題后總得分的相關性情況，分析是否需要被剔除（敏感性分析）。 (2)結構效度(Construct Validity)l 結構效度又稱構想效度，是指問卷結構效度又稱構想效度，是指問卷對某一理論概念或特質測量的程度，即對某一理論概念或特質測量的程度，即某問卷測驗的實際得分能解釋某一特質某問卷測驗的實際得分能解釋某一特質的程度。如果我們根據理論的假設結構，的程度。如果我們根據理論的假設結構，通過問卷測驗得到答卷者實際分數，經通過問卷測驗得到答卷者實際分數，經統(tǒng)計檢驗，結果表明問卷能

10、有效解釋答統(tǒng)計檢驗，結果表明問卷能有效解釋答卷者該項特質，則說此問卷具有良好的卷者該項特質，則說此問卷具有良好的結構效度。結構效度。常用的確定結構效度的方法有：常用的確定結構效度的方法有：l(1)根據文獻、前人研究結果、實際經驗等建l 立假設性理論建構；l(2)對問卷題目進行分析。主要是分析問卷的l 內容，答卷者對題目所作的反應，問卷題l 目的同質性以及分項目之間的關系來判斷l(xiāng) 問卷的結構效度；l(3)根據建構的假設性理論編制適當的問卷；l(4)計算與同類權威問卷的相關;l(5)以統(tǒng)計檢驗的實證方法去考查問卷是否能l 有效解釋所欲建構的特質。 3效標效度（Criterion Validity）

11、l 效標效度也稱為準則關聯(lián)效度（Criterion-Related Validity）、經驗效度（Empirical Validity）、統(tǒng)計效度（Statistical Validity）。效標效度是說明問卷得分與某種外部準則（效標）間的關聯(lián)程度，用問卷測量得分與效度準則之間的相關系數表示。 一般估計效標效度的主要方法有：一般估計效標效度的主要方法有：l（1）相關法，即求某問卷分數與效標間的相關，所得結果即效標效度。l（2）區(qū)分法，即看問卷分數是否可以區(qū)分由效標所劃分的團體。l 可以運用t檢驗對先后兩次問卷結果平均分數進行差異性檢驗。若差異有統(tǒng)計學意義，說明問卷是有效的；若差異無統(tǒng)計學意義，

12、說明問卷是無效的。 (4)判別效度（Discriminant Validity）l 判別效標也稱為辨別效標，是指運用相同的問卷測定不同特質和內涵，測量結果之間不應有太大的相關性。(5)聚合效度（Convergent Validity）l 聚合效度也稱為收斂效度，是指運用不同測量方法測定同一特質所得結果的相似程度，即對同一特質的兩種或多種測定方法間應有較高的相關性。6.效度的評價l Spitzer認為如果滿足以下5個條件就可以認為問卷由效：.l（1）問卷有內容效度和結構效度；l（2）在問卷制定階段應當請有關人員提出意見，供修正和提高內容效度；l（3）問卷經過反復使用證明了其可靠性；（4）如果有金

13、標準存在，應以金標準為準；（5）無金標準時可由判別效度代替。7.7.提高問卷效度的方法提高問卷效度的方法l（1）理論正確，解釋清楚。問卷內容要適合問卷測驗的目的，題目要清楚明了，易于理解，問卷的排列要由易到難，題目的難度和區(qū)分度要合適；l（2）操作規(guī)范以減少誤差；l（3）控制系統(tǒng)誤差。它主要包括儀器不準，題目和指導語有暗示性，答案安排不當(被試可以猜測)等, 控制這些因素可以降低系統(tǒng)誤差, 提高效度； l（4）樣本適宜且要預防流失。重視問卷調查的回收率。樣本容量一般不應低于30；l（5）適當增加問卷的長度。增加問卷的長度既可提高問卷的信度，也可以提高問卷的效度，但增加問卷的長度對信度的影響大于

14、對效度的影響；l（6）排除無關因素干擾。認清并排除足以混淆或威脅結論的無關干擾變量。 二、效度分析實例二、效度分析實例(example) (example) l例2 對例1中的問卷測驗結果進行效度分析 1問卷的敏感性（可靠性）分析l（1）操作過程l從菜單選擇Analyze Scale Reliability Analysis Item（輸入問卷的各條目或各因子包含的條目） 單擊“Statistics”按鈕，彈出信度分析統(tǒng)計量對話框 Descriptives for: Scale if item deleted OK lScale if item deleted:去掉當前題目整個問卷的描述統(tǒng)計量

15、，即敏感性分析，包括以下內容：Scale Mean if Item Deleted:去掉當前題目問卷合計分的均數；lScale Variance if Item Deleted: 去掉當前題目問卷合計分的方差；lCorrected Item-Total Correlation: 當前題目得分與去掉當前題目問卷合計分的Pearson相關系數；lSquared Multiple Correlation:以當前題目為因變量，其它所有題目為自變量求得的決定系數R2；Alpha if Item Deleted: 去掉當前題目后問卷的Cronbach 系數。 （2 2）輸出結果）輸出結果lSCL90各條目

16、的敏感性分析結果各條目的敏感性分析結果:lItem Scale Scale Correctedl Mean Variance Item- Alphal if Item if Item Total if Iteml Deleted Deleted Correlation DeletedlA1 31.7250 1272.7173 0.6397 0.9736lE2 31.7500 1253.6282 0.8027 0.9732lB3 31.8250 1261.0712 0.7408 0.9734lA4 31.7500 1259.7821 0.7557 0.9733lD5 31.7000 1278.2

17、667 0.3872 0.9740lC6 31.8250 1300.0455 0.0596 0.9745lI7 31.9000 1279.0667 0.5320 0.9737lH8 31.5750 1255.1224 0.7590 0.9733lB9 31.2750 1259.2301 0.6572 0.9735l.lE86 31.1750 1272.8147 0.3764 0.9742lI87 31.9250 1277.1481 0.6231 0.9736lI88 32.0500 1282.9718 0.6057 0.9737lJ89 32.2000 1304.1641 0.0000 0.9

18、741lI90 32.1750 1302.7122 0.1250 0.9741l 一般地，在做問卷的敏感性分析時，可以將“Alpha if Item Deleted”值，作為調整題目的一個重要參考依據。l 如果“Alpha if Item Deleted”值越大，其相對應的題目越應是首先考慮調整的題目。從本次問卷結果敏感性分析可以看出，量表的各個題目的“Alpha if Item Deleted”值均在0.97左右變化，且變化的幅度很小。所以，就 “Alpha if Item Deleted”值這項指標看量表各題目均可以保留，無需調整。這個結果可能與研究者所采用的SCL-90輛標是一個經典量表

19、有關。l摘摘 要要 目的目的：探討調查問卷的可靠性。方法方法：對武警十五支隊201名戰(zhàn)士，作心理衛(wèi)生自評90項調查問卷資料，利用SAS軟件編程，計算Alpha可靠性系數，進行可靠性分析。結果結果：有6項被剔除達到要求后，=0.973569，當使用標準化數據時，=0.974102。結論結論：利用可靠性分析，可以從調查問卷表的數據中，提取真實的、可靠性的成分。2問卷的結構效度的分析l 問卷的結構效度的評價較為復雜，可用各個題目與量表各銀子的相關分析和因子分析方法來反映。l（1）利用相關分析評價問卷的結構效度l 從菜單選擇Analyze Scale Reliability AnalysisItem(

20、輸入問卷的各條目或各因子包含的條目) Statistics彈出信度分析統(tǒng)計量對話框 Inter-Item Correlations OK（2）利用因子分析評價問卷的結構效度l 因子分析不僅能夠評價量表結構的相合性，還可以用共性變異（共性方差）與總變異之比作為結構效度的衡量指標。結構效度的分析最好使用證實性因子分析，它較探索性因子分析更能說明問題。 l執(zhí)行Analyze Data Reduction Factor ,彈出“Factor Analysis”對話框:l 單擊Descriptives Statistics Initial Solution Correlation Matrix KMO

21、and Bartletts test of sphericity Continue 三、調查問卷的信度 Questionnaire Reliability 1.信度分析的意義l 信度主要是指問卷是否精準(precision)。信度分析涉及了問卷測驗結果的一致性和穩(wěn)定性，其目的是如何控制和減少隨機誤差。The reliability of measuresl The question of reliability is to what extent does an indicator measure the same thing consistently: i.e. will people an

22、swer the same question in the same way on different occasion?l 調查問卷的信度包含兩層含義：調查問卷的信度包含兩層含義：l 一是相同的個體在不同時間，以相同的問卷測驗，或以復本測驗，或在不同的情景下測驗，是否能得到相同的結果，即問卷測驗結果是否隨時間和地點等因素而變化；l 二是能否減少隨機誤差對問卷測驗結果的影響，從而能夠反映問卷所要測量的真實情況，即問卷測驗結果是否具有穩(wěn)定性、可靠性和可預測性。一個好的問卷必須是穩(wěn)定可靠的，且多次問卷測驗結果應前后一致。2.2.信度的定義信度的定義l 信度是用估計測量誤差大小的尺度，來說明問卷測驗

23、結果中測量誤差所占的比率。l 信度可定義為真實分數(true score)的方差與測驗實得分數(observed score) 的方差之比，當實得分數變異可以全部由真實分數的變異解釋時，測驗誤差就是0，這時問卷測驗的信度為1。 l若用表示問卷測驗的信度，理論應有l(wèi) 或 l 式中 表示真實分數的方差；l 表示實得分數的方差；l 表示誤差的方差。22XTXXSSr221XEXXSSr2TS2XS2ES3.3.信度的分類信度的分類l 信度研究的是問卷測驗結果的可靠性與穩(wěn)定性，可以從不同的角度來評價：l（1）在相同條件下所得問卷測驗結果的一致程度；l（2）不同研究者用同一種問卷同時測驗所得結果的一致程

24、度；l（3）同一研究者用同一種問卷在不同時間內測驗所得結果的一致程度。l 4.4.常用的信度系數常用的信度系數l（1 1）重測信度）重測信度( (test-retest reliability) ) l 假定短時間內一批對象的狀況并沒有改變，對每個對象用同一個問卷先后測驗兩次，兩次測驗得分的相關系數就稱為重測信度。重測信度是用皮爾遜積差相關系數r公式計算的。 )()()()(2222nYYnXXnYXXYr重測信度也存在著局限性：重測信度也存在著局限性：l 間隔時間長，環(huán)境影響；l 如果間隔時間短，記憶影響。(2)(2)復本信度（復本信度（alternate form reliability）

25、l 復本通常是根據相同的設計說明分別獨立編制的兩個平行問卷，即題目不同但是內容相似的兩份問卷。復本信度也叫等值性系數（coefficient of equivalence）。兩個復本間隔一定時間或同時施于同一答卷者所得分數的相關系數就是復本信度。l 缺點：l 如復本編制不容易，易出現(xiàn)順序效應，受練習的影響；l 復本信度只能反應問卷內容所造成的誤差，無法反應答卷者本身所造成的誤差等。(3)(3)分半信度分半信度( (split-half reliability) ) l 當測驗沒有復本且測驗不可避免地受到時間的影響，只適合用于一次測驗時，可用分半信度。l 分半的方法很多，一般是將奇數題和偶數題各

26、作為一半，而非前后分半，目的是避免順序效應。分半信度也叫折半信度，其計算方法是將問卷的題目分成對等的兩半，分別求出兩半題目的總分，再計算兩部分總分的相關系數。l 使用分半信度時要注意兩個問題：l 一是問卷題目所測的應是同一種特質；l 二是兩半題目應是等值的。對問卷題目進行分半會造成了對整個問卷信度的低估，為此需要對分半信度進行校正，其校正公式為斯皮爾曼-布朗(Spearman Brown)公式：2121) 1(1xxxxXXrnrnrXXr為分半信度21XXr 表示兩半題目各自得分和之相關系數，n為原問卷相對于變化后問卷長度的倍數，計算分半信度時n=2。lSpearman Brown公式要求兩

27、個分半表的信度和方差均滿足齊性；l Guttman: Guttman分半信度，可不滿l 足上述要求(4)(4)庫得庫得理查森信度理查森信度 ( (Kuder Richardson)l庫德-理查森信度適用于計算“對或錯”的是非題的同質性信度，其是計算所有可能的分半信度的平均數。 l最有代表性的計算公式是庫德-理查森公式: )1 (12120XniiiKRSqpnnr式中n為問卷包含的題目數.2XS 為問卷測驗總得分的方差，pi表示答對該題的人數占總答卷人數的比例，pi可視為該題的難度，qi=1-pi 。 (5)(5)克隆巴赫信度系數克隆巴赫信度系數 (cronbachs )(cronbachs

28、) l Cronbachs 系數是Cronbach于1951年創(chuàng)立的，用于評價問卷的內部一致性。系數取值在0到1之間，系數越高，信度越高，問卷的內部一致性越好。Cronbachs 系數不僅適用于兩級記分的問卷，還適用于多級計分的問卷。 Cronbachs 信度信度lCronbach, L. J. (1951). Coefficient alpha and the internal structure of tests. Psychometrika. 16, 297-334. lIt is a measure of squared correlation between observed sco

29、res and true scores. Put another way, reliability is measured in terms of the ratio of true score variance to observed score variance.其計算公式為：其計算公式為： )1 (1212XniiSSnn式中n為問卷包含的題目數，2iS為答卷者在第i題得分的方差，2XS為答卷者問卷測驗總得分的方差。 l系數有以下性質：l（1）系數是所有可能的分半信度的平均值；l（2）系數是估計信度的最低限度；l（3）當問卷計分為二分名義變量時，即答案為0或1，系數與KR20值相同，即庫

30、德-理查森信度公式是克隆巴赫的系數的一個特例。l 低信度：0.35, 中信度： 0.350.70,高信度： 0.70l 一般地，問卷的系數在0.8以上該問卷才具有使用價值。Cronbachs 值皆達0.85以上，表明問卷信度良好。(6)(6)評分者信度評分者信度（inter-scorer reliability）*l 考察評分者信度的方法為，隨機抽取相當份數的問卷，由兩位評分者按記分規(guī)則分別給分；然后根據每份問卷的分數計算相關系數，就得到評分者信度。評分者信度也可以是一位評分者兩次評分的相關系數。如果是多個評分者或一位評分者兩次以上的評分，可采用肯德爾和諧系數和Kappa系數?？系聽柡椭C系數用

31、于等級資料，Kappa系數用于定性資料。l信度系數類型 ： l重測信度l復本信度l分半信度（Spearman Brown；l Guttman）l庫德-理查森系數l克隆巴赫系數l評分者信度*5.5.提高信度的方法提高信度的方法 l 問卷的信度越高，受到人、時、地、物的干擾就越低，其所能反應事實或讓人相信的程度越高，因此在問卷實施前如何有效提高信度是問卷測驗成敗的關鍵。通常提高問卷信度的方法為：（1）適當延長問卷的長度l 問卷題目較多，其在一定程度上排除了偶然因素的影響，從而提高了問卷的信度。l 但是問卷長度的增加與問卷的信度的增加并不總是成正比的，當信度系數較小時，延長問卷長度，問卷的信度系數增

32、加較大；而當信度系數較大時，延長問卷長度對信度系數的影響就較小。（2）問卷的難度適中l(wèi) 當問卷題目難度太大時，問卷得分普遍過低；當問卷題目難度太小時，問卷得分普遍較高。問卷題目太難或太易都會使問卷得分差異減小，使實得分數方差減小，從而降低了問卷的信度。 （3）問卷的內容盡量同質l 內容同質的問卷，要求答卷者具有相同的能力、知識和技能。因而為了提高問卷的信度，問卷的內容應盡量保持同質。 （4）測驗的時間要充分l 一份問卷應保證絕大多數答卷者在規(guī)定的時間內能完成測驗。當答卷者不能從容地回答所有題目時，問卷的得分就不能反映答卷者的真實情況。 （5）測驗的程序要統(tǒng)一l 問卷題目要統(tǒng)一，指導語、回答問題

33、的方式、分收試卷的方法和問卷測驗的時間等都要統(tǒng)一，這些是問卷有較高信度的基本保證。 四、信度分析實例四、信度分析實例 （example）l例1 某人在新入學的大學生中隨機抽取40人，組織癥狀自評量表（SCL-90）測驗，以了解新生心理健康的水平，及有針對性地進行心理教育和疏導，避免意外事件的發(fā)生。試就量表測驗結果，對此次測驗的可靠性進行分析 l SCL-90量表，包含90個題目，由受試者根據自己在最近一周以內的實際感受，在：沒有、很輕、中等、偏重、嚴重各選項中選擇一個答案，每個選項分別計為0，1，2，3，4分。l SCL-90分為9個因子，分別為軀體化、強迫癥狀、人際關系敏感、憂郁、焦慮、敵對

34、性、恐怖、偏執(zhí)和精神病性。分析對象為答卷者所選的五項答案得分，計算各因子得分和問卷總分。求各因子的各種信度系數和問卷總的信度系數。表11-2 各因子描述統(tǒng)計量l在“Model:”選項中，SPSS提供5種信度分析模型:lAlpha: Cronbach 系數lSplit-half: 分半信度，又稱l Spearman-Brown系數,其應用的前提l 條件是兩個分半表的信度和方差均滿l 足齊性。lGuttman: Guttman分半信度，可不滿l 足上述要求lParallel:平行模型lStrict Parallel:嚴格平行模型量表的cronbach 系數l 從菜單選擇Analyze Scale

35、Reliability AnalysisItem:a1/b2/c3/a4/j89/i90(共90個變量) Model: Alpha List item labels OK lReliability CoefficientslN of Cases = 40.0 N of Items = 90lAlpha = 0.9740l量表有90個題目，量表總的Cronbach 系數為0.9740，信度較高。各因子的Cronbach 系數l操作過程l從菜單選擇Analyze Scale Reliability AnalysisItem: 輸入各因子的條目數a1/a4/a12/a27/a40/a42/a48/a

36、49/a52/a53/a56/a58 (軀體化因子，共12個變量) Model: Alpha OK l量表的9個因子的Cronbach 系數分別為：軀體化0.8740；強迫0.8600；人際關系敏感0.7483；憂郁0.9445；焦慮0.8517；敵對性0.6009；恐怖0.9218；偏執(zhí)0.7210；精神病性0.6461。憂郁、恐怖、軀體化、強迫、焦慮因子的信度較高；人際關系敏感和偏執(zhí)因子的信度尚可；但是敵對性和精神病性的信度偏低。從結果中我們還可以看出各項因子的Cronbach 系數小于問卷總的Cronbach 系數。分半信度l操作過程：l從菜單選擇Analyze Scale Reliability AnalysisModel：Split-halfok總量表的分半信度總量表的分半信度l總量表分半信度計算結果:lReliability Coefficients 90 itemslCorrelation between forms = 0.9147 Equal-length Spearman-Brown = 0.9554lGut