檢測數(shù)值讀取與數(shù)值修約_第1頁
檢測數(shù)值讀取與數(shù)值修約_第2頁
檢測數(shù)值讀取與數(shù)值修約_第3頁
檢測數(shù)值讀取與數(shù)值修約_第4頁
檢測數(shù)值讀取與數(shù)值修約_第5頁
已閱讀5頁,還剩51頁未讀 繼續(xù)免費閱讀

下載本文檔

版權說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權,請進行舉報或認領

文檔簡介

1、測量測量(cling)數(shù)值讀取與數(shù)值數(shù)值讀取與數(shù)值修約修約精品資料有效數(shù)字與檢測(jin c)結果的關系(1) 檢測過程往往由多個分過程組成,每個分過程產(chǎn)生(chnshng)一組或一個數(shù)據(jù),對每個檢測分過程得到數(shù)據(jù)進行數(shù)據(jù)處理得到檢測結果,因此,檢測過程數(shù)據(jù)讀取(讀取位數(shù)的確定)和數(shù)據(jù)處理是檢測過程的必須環(huán)節(jié)。 檢測數(shù)據(jù)含有誤差,測量結果誤差與檢測數(shù)據(jù)誤差有關。因此,檢測數(shù)據(jù)或測量結果的有效位數(shù)的取舍應適宜,太多會使人誤認為測量精度很高,同時也會帶來計算上的繁瑣;太少則會損失測量準確度。精品資料有效數(shù)字與檢測(jin c)結果的關系(2) 檢測數(shù)據(jù)的有效數(shù)字位數(shù)反映了測量結果的精確度,它直接與

2、測量的精密度有關。因此,在檢測過程中正確記錄有效數(shù)字,是檢測人員保證檢測質量(zhling)的重要內(nèi)容。精品資料有位數(shù)字(shz)讀取舉例(1) 實驗室購置一臺液晶顯示數(shù)字的千分之一天平,天平生產(chǎn)廠家為了(wi le)體現(xiàn)其高分辨力或高靈敏性,顯示的輸出的數(shù)據(jù)全部取位到滿位,如稱量約1克重量時的顯示為:1.012346512, 問題提出: 1.如何讀取記錄數(shù)據(jù)? 2.精度為千分之一,是否應該要像常規(guī)的讀數(shù)一樣估讀到精度位數(shù)的下一位? 3.不需要的位數(shù)應該如何舍入?精品資料有位數(shù)字(shz)讀取舉例(2) 解決方法:解決方法: 儀器讀數(shù)的有效位數(shù)跟精度儀器讀數(shù)的有效位數(shù)跟精度(jn d)位數(shù)相同

3、,位數(shù)相同,不再顯示下一位,多余位數(shù)將其按一定原則不再顯示下一位,多余位數(shù)將其按一定原則舍入。舍入。 精度精度(jn d)為百分之一儀器:讀數(shù)為:為百分之一儀器:讀數(shù)為:1.01; 精度精度(jn d)為千分之一儀器:讀數(shù)為:為千分之一儀器:讀數(shù)為:1.012; 精度精度(jn d)為萬分之一儀器:讀數(shù)為:為萬分之一儀器:讀數(shù)為:1.0123; 精度精度(jn d)為十萬分之一儀器:讀數(shù)為:為十萬分之一儀器:讀數(shù)為:1.01235;精品資料 可知測量數(shù)據(jù)或儀器顯示數(shù)值(shz)讀數(shù)的取位是否合理,其具有系統(tǒng)和規(guī)范的要求。 擬從以下兩個方面徐述: 一.測量結果的有效位數(shù)的規(guī)定 二.多余位數(shù)如何修

4、約精品資料一.測量結果(ji gu)有效位數(shù)的確定精品資料1.測量(cling)、測量(cling)結果 測量是以確定(qudng)量值為目的的一組操作。量值是由一個數(shù)(值)乘以測量單位所表示的特定量的大小。 測量不可避免的存在誤差,測量讀數(shù)由準確數(shù)字和可疑數(shù)字組成,儀器的精度和最小刻畫所標識的數(shù)字均為可準確測度數(shù)據(jù)的最小數(shù)字,比此數(shù)字小的均為可疑數(shù)字。精品資料2.有效數(shù)字(yu xio sh z)(1) 有效數(shù)字指在分析和測量中所能得到的有實際意義的數(shù)字。測量結果(ji gu)是由有效數(shù)字組成(前后定位用的“0”除外)。 有效數(shù)字組成中除最后一位是可疑數(shù)字或不確切值外,其余的前面位數(shù)都是準確

5、數(shù)字。有效數(shù)字由準確數(shù)字和可疑數(shù)字組成。 除有效數(shù)字外其余數(shù)字為多余數(shù)字。精品資料2.有效數(shù)字(yu xio sh z)(2) 例: 用萬分之一天平稱量物品,從刻度盤或數(shù)字顯示(xinsh)讀數(shù)為1.0123,前幾位數(shù)字1、0、1、2都是稱量讀到的準確數(shù)字,最后一位數(shù)字3則是在沒有刻度的情況下估讀出來的(即讀數(shù)指針位于兩刻度之間的估值),是不準確的或者說可疑的。精品資料2.有效數(shù)字(yu xio sh z)(3) 有效數(shù)字是處于(chy)表示測量結果的數(shù)值的不同數(shù)位上。所有有效數(shù)字所占有的數(shù)位的個數(shù)稱為有效數(shù)字位數(shù)。 例如:數(shù)值3.5,有兩個有效數(shù)字,占有個位、十分位兩個數(shù)位,因而有效數(shù)字位數(shù)

6、為兩位;而3.501有四個有效數(shù)字,占有個位、十分位、百分位等四個數(shù)位,因面是四位有效數(shù)字。精品資料2.有效數(shù)字(yu xio sh z)(4) 測量結果的數(shù)字,其有效位數(shù)反映了測量結果的精確度,它直接與測量的精密度有關。這也是有效數(shù)字(yu xio sh z)實際意義的體現(xiàn)。 例如前述例子中,若測量結果為1.0123g,則表示測量值的誤差在10-4量級上,天平的精度為萬分之一;若測量結果為1.012g,則表示測量值的誤關在10-3量級上,天平的精度為千分之一。精品資料3.確定(qudng)有效數(shù)字位數(shù)時遵循的原則(1) (1)數(shù)值中數(shù)字19都是有效數(shù)字。 (2)數(shù)字“0”在數(shù)值中所處的位置不

7、同(b tn),起的作用也不同(b tn),可能是有效數(shù)字,也可能不是有效數(shù)字或多余數(shù)字。判定如下:精品資料3.確定有效數(shù)字(yu xio sh z)位數(shù)時遵循的原則(2) 1)整數(shù)前面的“0”無意義,是多余(duy)數(shù)字,如0023。 2)對純小數(shù),在小數(shù)點后,數(shù)字前的 “0”只起定位,決定數(shù)量級的作用(相當于所取的測量單位不同),不是有效數(shù)字,或是多余(duy)數(shù)字。 如,0.0257中,“2”前面的兩個“0”均非有效數(shù)字。0.123、0.0123、0.00123中“1”前面的“0”也均非有效數(shù)字。 3)數(shù)值中夾在數(shù)字中間的“0”是有效數(shù)字。 例如,數(shù)值1.008中間的兩個“0”均是有效數(shù)

8、字;數(shù)值8.01中間的“0”是有效數(shù)字。精品資料3.確定(qudng)有效數(shù)字位數(shù)時遵循的原則(3)4)數(shù)值未尾的“0”屬于是否算有效數(shù)字(yu xio sh z),分幾種情況。數(shù)后面的“0”,若把多余數(shù)字的“0”用10的乘冪來表示,使其與有效數(shù)字(yu xio sh z)分開,這樣在10的乘冪前面所有數(shù)字包括“0”皆為有效數(shù)字(yu xio sh z)。例如,0.5000(可表示為:5.00010-5)中,“5”后面的三個“0”均為有效數(shù)字(yu xio sh z);0.0050(可表示為:5.010-2)中,“5”后面的一個“0”也是有效數(shù)字(yu xio sh z)。又如:3.20001

9、05,為5位有效數(shù)字(yu xio sh z);3.20105,為3位有效數(shù)字(yu xio sh z);3.2105,為2位有效數(shù)字(yu xio sh z)。精品資料3.確定(qudng)有效數(shù)字位數(shù)時遵循的原則(4) 作為測量結果并注明誤差值的數(shù)值,其表示的數(shù)值等于或大于誤差值的所有數(shù)字,包括(boku)“0”皆為有效數(shù)字; 上面兩種情況外的數(shù)后面的“0”則很難判斷是有效數(shù)字還是多余數(shù)字,因此,應避免采用這種不確切的表示方法。精品資料3.確定(qudng)有效數(shù)字位數(shù)時遵循的原則(5) 以“0”結尾的正整數(shù),“0”是不是有效數(shù)字不確定,應根據(jù)測試結果的準確度確定。如,3600,后面的兩個

10、“0”如果不指明(zhmng)測量準確度就不能確定是不是有效數(shù)字。 測量中遇到這種情況,最好根據(jù)實際測試結果的精確度確定有效數(shù)字的位數(shù),有效數(shù)字用小數(shù)表示,把“0”用10的乘方表示。如, 將3600寫成3.6103;表示此數(shù)有兩位有效數(shù)字; 將3600寫成3.60103;表示此數(shù)有三位有效數(shù)字; 將3600寫成3.600103;表示此數(shù)有四位有效數(shù)字。精品資料4.有效數(shù)字(yu xio sh z)位數(shù)辨別注意(1) 一個數(shù),有效數(shù)字占有的位數(shù),即有效數(shù)字的個數(shù),為該數(shù)的有效位數(shù)。 有效數(shù)字位數(shù)例子比較:如:00816,0.0816, 8.16, 8.16102,8.1610-5,這五個數(shù)的有效

11、位數(shù)均為3,有效數(shù)字都是3個。 若給出的數(shù)值為816000,則為不確切的表示方法。它可能(knng)是816103 ,也可能(knng)是8.160105,也可能(knng)是8.1600105,也可能(knng)是8.16000105,。即有效數(shù)字可能(knng)是3個,4個,5個或6個。若無其它說明,則很難判定其有效數(shù)字究竟是幾個。精品資料4.有效數(shù)字(yu xio sh z)位數(shù)辨別注意(2)各數(shù)據(jù)的有效數(shù)字位數(shù)各數(shù)據(jù)的有效數(shù)字位數(shù)3.080665383五位有效數(shù)字0.600030.87%四位有效數(shù)字0.03692.3710-9三位有效數(shù)字630.0090二位有效數(shù)字0.0371010一

12、位有效數(shù)字3800200有效數(shù)字位數(shù)不確定精品資料5.直接測量(cling)結果位數(shù)規(guī)定(1) 總則 凡是用測量儀器直接測量的數(shù)據(jù),讀數(shù)一般要求在讀出儀器最小刻度(kd)所在位置的數(shù)值(可靠數(shù)字)后,再向下估讀一位(不可靠數(shù)字),這里不受有效數(shù)字位數(shù)的限制。精品資料5.直接測量結果(ji gu)位數(shù)規(guī)定(2) 細則 (1)最小刻度值(精度)是1、0.1、0.01的應讀到最小刻度值(精度)的下一位; (2)最小刻度值(精度)是2、0.2、0.02,5、0.5、0.05的應讀到最小刻度值(精度)的同一位;同一位分別按二分之一或五分之一估讀,不足半小格的舍去,超過半小格的按一個(y )格估讀。 (3

13、)秒表讀數(shù)時不需估讀,單位:秒,一位小數(shù);精品資料5.直接測量(cling)結果位數(shù)規(guī)定(3) 例:直列刻度(kd)值的讀數(shù): 讀數(shù):1.62cm=16.2mm 讀數(shù):2.00cm=20.0mm 精品資料5.直接測量結果(ji gu)位數(shù)規(guī)定(4) 例:秒表(圓盤(yun pn)刻度值)的讀數(shù) 讀數(shù)為96.4秒精品資料5.直接(zhji)測量結果位數(shù)規(guī)定(5) 例:(0.2刻度值)刻度天平的讀數(shù) 天平平衡時,右盤中有26g砝碼,游碼在圖中所示位置,則被測物體(wt)質量為( )? 答案:26.32g(最小刻度為0.02g,不是10分度,因此只讀到0.02g這一位)。精品資料二.數(shù)值(shz)如

14、何修約精品資料數(shù)值(shz)修約-討論內(nèi)容 (一)數(shù)值修約的概念及意義(yy) (二)數(shù)值修約的基礎知識 (三)數(shù)值修約規(guī)則及注意事項 (四)數(shù)值運算修約規(guī)則精品資料(一).數(shù)值(shz)修約的概念 對某一表示測量結果的數(shù)值(擬修約數(shù)),根據(jù)保留位數(shù)的要求,將多余的數(shù)字(shz)進行取舍,按照一定的規(guī)則,選取一個近似數(shù)(修約數(shù))來代替原來的數(shù),這一過程稱為數(shù)值修約精品資料(一).數(shù)值(shz)修約的意義(1) 1)出于準確表達測量結果的需要 測量結果大都是通過間接測量得到的,間接測量的結果通常是通過計算得出的,其組成數(shù)字往往較多,但具體測量的精度是確定的,最終提供的測量結果應合理反映這一點,故

15、此,通過計算方法和直接測量得到的數(shù)據(jù)的分析處理,得到合理的保留位數(shù),以得到合理反映測量精度的測量結果就非常必要。另外,即使采用直接測量,有時在提供測量程序要求(yoqi)的、但高于實際測量精度的測量結果時也需要進行合理的數(shù)值修約。精品資料(一).數(shù)值(shz)修約的意義(2) 2)在進行具體的數(shù)值計算前,對參加計算的數(shù)值進行修約,可簡化計算,降低計算出錯的機會(j hu)。 例如:(2.17+5.985616)3.13212.357621398=? 若不先進行數(shù)值修約就進行直接計算,繁瑣且容易出錯.若在計算前先按數(shù)值修約規(guī)則進行修約,舍去多余參與計算的數(shù)值之中沒有意義的數(shù)位,則計算會簡單得多,

16、計算也就不容易出錯.精品資料(二)數(shù)值(shz)修約的基礎知識(1) 1.修約間隔 修約間隔:修約值的最小數(shù)值單位,又稱修約區(qū)間或化整間隔,系確定修約保留修約位數(shù)的一種方式。修約間隔一般以k10n(k=1,2,5;n為整數(shù) )的形式表示(biosh),將同一k值的修約間隔,簡稱為”k”間隔。修約間隔的數(shù)值一經(jīng)確定,修約值即應為該數(shù)值的整數(shù)倍. 例1.如指定修約間隔為0.1,修約值即應在0.1的整數(shù)倍中選取,相當于將數(shù)值修約到一位小數(shù)。 例2.如指定修約間隔為100,修約值即應在100的整數(shù)倍中選取,相當于將數(shù)值修約到”百”數(shù)位。精品資料(二)數(shù)值(shz)修約的基礎知識(2) 2.修約數(shù)位及確

17、定修約位數(shù)的表達方式 修約時擬將擬修約數(shù)的哪一位數(shù)位后部分按修約規(guī)則舍去,則該數(shù)位就是修約數(shù)位。 數(shù)值修約時需要先明確修約數(shù)位,確定修約位數(shù)的表達方式如下: (1)指明具體的修約間隔:如指明將某數(shù)按0.2(210-1)修約間隔修約,或者,按100(1102)修約間隔修約等; (2)指定將擬修約數(shù)修約至某數(shù)位的0.1,0.2或0.5個單位; (3)指明按”K”間隔將擬修約數(shù)修約為幾位有效數(shù)字,或修約至某數(shù)位。這時”1”間隔可不必(bb)指明,但”2”間隔和”5”間隔必須指明。精品資料(三)數(shù)值(shz)修約規(guī)則-1數(shù)值數(shù)位數(shù)值數(shù)位(shwi)進舍進舍(修約修約)規(guī)則:規(guī)則:四舍六入五考慮,四舍六

18、入五考慮,五后非零則進一,五后非零則進一,五后皆零視奇偶,五后皆零視奇偶,五前為偶應舍去,五前為偶應舍去,五前為奇則進一,五前為奇則進一,不論數(shù)字多少位,不論數(shù)字多少位,都要一次修約成。都要一次修約成。精品資料(三)數(shù)值(shz)修約規(guī)則-2 實例實例: 請將下列數(shù)據(jù)修約到只保留二位小數(shù):請將下列數(shù)據(jù)修約到只保留二位小數(shù):302.21549;302.22499;302.22600;302.22500;302.21500; 答案答案: 302.21549302.22(五后非零則進一);(五后非零則進一); 302.22499302.22(四舍六入五考慮(四舍六入五考慮(kol),按規(guī)則一,按規(guī)則

19、一次修約,不能多次修約成次修約,不能多次修約成302.23);); 302.22600302.23(四舍六入五考慮(四舍六入五考慮(kol));); 302.22500302.22(五前為偶應舍去);(五前為偶應舍去); 302.21500302.22(五前為奇則進一);(五前為奇則進一);精品資料(三)數(shù)值(shz)修約規(guī)則-3 在數(shù)值修約的實施中,有時獲取測量數(shù)據(jù)人員(rnyun)與數(shù)據(jù)計算人員(rnyun)先將獲得數(shù)值按指定的修約位數(shù)多一位或幾位報出,而后由其他部門判定。 修約時為了避免產(chǎn)生連續(xù)修約的錯誤,也可按下述步驟進行:精品資料(三)數(shù)值(shz)修約規(guī)則-4 1報出數(shù)值最右的非零

20、數(shù)字為5時,應在數(shù)值后面加“(+)”或“(-)”或不加符號,以分別表明已時行過舍、進或未舍未進。 例如: 16.50(+)表示(biosh)實際值大于16.50,經(jīng)修約舍棄成為16.50. 16.50(-)表示(biosh)實際值小于16.50,經(jīng)修約進一成為16.50.精品資料(三)數(shù)值(shz)修約規(guī)則-52.如果判定報出值需要進行修約,當擬舍棄數(shù)字(shz)的最左一位數(shù)字(shz)為5而后面無數(shù)字(shz)或皆為零時,數(shù)值后面有(+)號者進一,而數(shù)值后面有(-)號者舍去,其他仍按數(shù)字(shz)修約規(guī)則進行.例如:將下列數(shù)字(shz)修約到個數(shù)位后進行判定(報出值多留一位到一位小數(shù)).實測

21、值 報出值 修約值15.4546 15.5(-) 1516.5203 16.5(+) 17-17.5000 -17.5 -18-15.4546 -(15.5(-) -15精品資料(三)數(shù)值(shz)修約規(guī)則-6 特例情況: 非連續(xù)型數(shù)值 個數(shù)、分數(shù)、倍數(shù)、名義濃度(nngd)或標示量等是沒有欠準數(shù)字的,其有效位數(shù)可視為無限多位。 常數(shù)、e和系數(shù)2,1/2等數(shù)值的有效位數(shù)也可視為是無限多位。精品資料(三)數(shù)值(shz)修約規(guī)則-7 例如: 1分子式“H2SO4”中的“2”和“4”是個數(shù): 2含量測定項下“每1ml的XX滴定液(0.1m0l/L)”中的“0.1”為名義(mngy)濃度,其有效位數(shù)均

22、為無限多位; 3規(guī)格項下的“0.3g”或“1ml”,“25mg”中的“0.3”、“1”和“25”的有效位數(shù)也均為無限多位。在計算中,其有效位數(shù)應根據(jù)其他數(shù)值的最少有效位數(shù)而定精品資料(三)數(shù)值(shz)修約規(guī)則-8 PH值 PH值等對數(shù)值,其有效位數(shù)是由其小數(shù)點后的位數(shù)決定(judng)的,其整數(shù)部分只表明其真數(shù)的乘方次數(shù)。 例如: PH=11.26(H+=5.510-12mol/L) 其有效位數(shù)只有兩位。精品資料(四)運算(yn sun)過程中的修約規(guī)則-1 在一個具體的測量過程中,一般(ybn)都要經(jīng)過多個測量環(huán)節(jié),而每個測量環(huán)節(jié)都有具體的測量數(shù)據(jù),如砂子表觀密度測定時稱量比重瓶與水,試樣

23、的總質量,傾出試樣后稱量瓶與水的質量;滴定試驗時滴定前滴定管的初始讀數(shù)與滴定至終點時,溶液體積的讀數(shù)等. 這些測量所得的數(shù)據(jù),在參與測量結果計算的過程中,若要修約應怎么修約,計算得到的結果怎么修約,就是運算法則所要解決的問題.精品資料(四)運算(yn sun)過程中的修約規(guī)則-2 1.加減運算(yn sun) 2.乘除運算(yn sun) 3.乘方和開方 4.對數(shù)和反對數(shù) 5.平均值 6.方差和標準偏差精品資料(四)運算過程(guchng)中的修約規(guī)則-31.加減運算加減運算幾個數(shù)相加減的結果,經(jīng)修約后保留有效數(shù)字的位數(shù),取幾個數(shù)相加減的結果,經(jīng)修約后保留有效數(shù)字的位數(shù),取決于絕對誤差最大的數(shù)

24、值,計算結果應以絕對誤差最大決于絕對誤差最大的數(shù)值,計算結果應以絕對誤差最大(即即小數(shù)點后位數(shù)最小小數(shù)點后位數(shù)最小)的數(shù)據(jù)為基準的數(shù)據(jù)為基準(jzhn)來決定計算結果數(shù)來決定計算結果數(shù)據(jù)的位數(shù)。據(jù)的位數(shù)。在實際運算過程中,應以各數(shù)中有效數(shù)字末位數(shù)的數(shù)位最在實際運算過程中,應以各數(shù)中有效數(shù)字末位數(shù)的數(shù)位最高者為準高者為準(小數(shù)即以小數(shù)部分位數(shù)最少者為準小數(shù)即以小數(shù)部分位數(shù)最少者為準),其余數(shù)均比,其余數(shù)均比該數(shù)向右多保留一位有效數(shù)字;而計算結果有效數(shù)字的位該數(shù)向右多保留一位有效數(shù)字;而計算結果有效數(shù)字的位數(shù)應與有效數(shù)最少的一數(shù)相同。數(shù)應與有效數(shù)最少的一數(shù)相同。例如例如: 29.2+36.582-

25、3.0281=?按上述規(guī)則計算如下按上述規(guī)則計算如下:29.2+36.582-3.028129.2+36.58-3.03=62.75最后計算結果保留一位小數(shù)最后計算結果保留一位小數(shù):為為62.8精品資料(四)運算過程(guchng)中的修約規(guī)則-4 2.乘除運算乘除運算 幾個數(shù)據(jù)的乘除運算以相對誤差最大幾個數(shù)據(jù)的乘除運算以相對誤差最大(即有效數(shù)字位即有效數(shù)字位數(shù)最少數(shù)最少)的數(shù)值為基準來決定結果數(shù)據(jù)的位數(shù)。的數(shù)值為基準來決定結果數(shù)據(jù)的位數(shù)。 在實際運算中,先將各數(shù)值修約至比有效數(shù)字位數(shù)在實際運算中,先將各數(shù)值修約至比有效數(shù)字位數(shù)最少者多保留最少者多保留(boli)一位有效數(shù)字運算,計算結果一位

26、有效數(shù)字運算,計算結果的有效數(shù)字的位數(shù)與有效數(shù)字位數(shù)最少的數(shù)值相同的有效數(shù)字的位數(shù)與有效數(shù)字位數(shù)最少的數(shù)值相同 (與小數(shù)點位置無關與小數(shù)點位置無關) 。 例如例如: 0.23543828.661.8916 0.235428.661.89 =414.6707116 三個參與運算的數(shù)值的有效數(shù)字位數(shù)分別為六位、三個參與運算的數(shù)值的有效數(shù)字位數(shù)分別為六位、三位、六位,所以最終計算結果用三位有效數(shù)字表三位、六位,所以最終計算結果用三位有效數(shù)字表示,為示,為415,或,或4.15102。精品資料(四)運算過程(guchng)中的修約規(guī)則-4 精品資料(四)運算過程(guchng)中的修約規(guī)則-5 4.對

27、數(shù)運算 數(shù)值對數(shù)計算時,所取對數(shù)的小數(shù)點后的位數(shù)(不包括首數(shù))應與真數(shù)的有效數(shù)字位數(shù)相同。換言之,對數(shù)有效數(shù)字的位數(shù),只計小數(shù)點以后的數(shù)字的位數(shù),而不計對數(shù)的整數(shù)部分。 例如: Log(100.44) =log(1.0044102) =2.0019067。 最后(zuhu)結果應為2.00191,結果的有效數(shù)字位數(shù)是五位(小數(shù)后位數(shù))而不是六位(整數(shù)位數(shù)加小數(shù)位數(shù)),因整數(shù)部分只說明該數(shù)的10的方次。精品資料(四)運算(yn sun)過程中的修約規(guī)則-6 5.平均值 計算幾個數(shù)值的平均值時,先將計算結果(ji gu)修約至比要求的位數(shù)多一位,再按數(shù)值修約規(guī)則處理。 例如: x =(8.67+8

28、.69+8.66+8.68+8.67+8.69+8.71)/7=8.6814285718.681 修約后平均值計算為8.68。 6.方差和標準偏差 方差和標準偏差在運算過程中對中間結果(ji gu)不做修約,只將最后結果(ji gu)修約至要求的位數(shù)。精品資料(四)運算過程(guchng)中的修約規(guī)則-7 注意: 1)在所有計算式中,常數(shù)(、e等)以及非檢測所得的計算因子(倍數(shù)或分數(shù))的有效數(shù)字位數(shù),可視為無限,需要幾位就取幾位。 2)使用計算器(或電腦)進行計算進,一般不對中間每一步驟的計算結果進行修約,僅對最后(zuhu)的結果進行修約,使其符合事先所確定的位數(shù)。精品資料三.檢測值與標準規(guī)

29、定的極限數(shù)值(限值界限(jixin)值)的比較和判定精品資料極限(jxin)數(shù)值(界限值/): 標準(或技術規(guī)范)中規(guī)定考核的以數(shù)量形式給出且符合該標準(或技術規(guī)范)要求(yoqi)的指標數(shù)值范圍的界限值。精品資料檢測值(結果(ji gu)與標準規(guī)定限值作比較的方法-1 (1)在判定測量值或計算值是否符合標準要求時,應將測量所得的值或其計算值與標準規(guī)定的極限數(shù)值作比較(bjio),比較(bjio)的方法可采用: 全數(shù)值比較(bjio)法; 修約值比較(bjio)法。 (2)當技術文件中,若對極限數(shù)值(包括帶有極限偏差值的數(shù)值)無特殊規(guī)定時,均應使用全數(shù)值比較(bjio)法。如規(guī)定采用修約值比較(b

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
  • 4. 未經(jīng)權益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責。
  • 6. 下載文件中如有侵權或不適當內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論