檢測數(shù)據(jù)修約處理ppt課件VIP

.,檢測數(shù)據(jù)修約處理,GB/T8170-20082015.04.14,.,目錄,術(shù)語確定修約位數(shù)的表達方式進舍規(guī)則不連續(xù)修約0.5單位修約及0.2單位修約計算法則(參考上海市計量檢定人員計量基礎(chǔ)知識培訓(xùn)教材),.,術(shù)語,.,數(shù)值修約通過省略原數(shù)值的最后若干位數(shù)字，調(diào)整所保留的末位數(shù)字，使最后所得到的值最接近原數(shù)值的過程。注：經(jīng)數(shù)值修約后的數(shù)值稱為修約值。,10.41,10.4,數(shù)值修約,原始數(shù)值,修約值,10.5,.,有效數(shù)字該數(shù)值從其第一個不是零的數(shù)字起到最末一位數(shù)的全部數(shù)字即為有效數(shù)字。例1：3.2，0.32，0.032，0.0032均為兩位有效位數(shù)；0.0320為三位有效位數(shù)。例2：12.490為五位有效位數(shù)；10.00為四位有效位數(shù)。例3：1.35cm=13.5mm=0.0135m，這三種表示法完全等效，均為三位有效數(shù)字。,.,.,220022032210,586005861158670,.,確定修約位數(shù)的表達方式,.,確定修約位數(shù)的表達方式,指定數(shù)位(指定修約間隔)；指定將數(shù)值修約成n位有效位數(shù)。,.,進舍規(guī)則,.,四舍六入逢五取偶,擬舍棄數(shù)字最左一位數(shù)字小于5，則舍去，保留其余各位數(shù)字不變例1：將12.1498修約到個位數(shù)（即修約間隔為1），得12；將12.1498修約到1位小數(shù)（即修約間隔為0.1），得12.1。擬舍棄數(shù)字最左一位數(shù)字大于5，或者是5，而其后跟有并非全部為0的數(shù)字時，則進一，即保留的末位數(shù)字加1。例2：將1268修約到“百”數(shù)位，得1300。例3：將10.502修約到個數(shù)位，得11。,.,擬舍棄數(shù)字的最左一位數(shù)字為5，而右面無數(shù)字或皆為0時，若所保留的末位數(shù)字為奇數(shù)（1，3，5，7，9）則進一，若所保留的末位數(shù)字為偶數(shù)（2，4，6，8，0）則舍棄。（逢五取偶）例1：1.050修約到1位小數(shù)，得1.0。例2：0.35修約到1為小數(shù)，得0.4。,.,負(fù)數(shù)修約時，先將它的絕對值按數(shù)字進舍規(guī)則（四舍六入逢五取偶）進行修約，然后在修約值前面加上負(fù)號。例：將下列數(shù)字修約到三位小數(shù)擬修約數(shù)值修約值-0.0365-0.036,0.0365,絕對值,.,不連續(xù)修約,.,1、擬修約數(shù)字應(yīng)在確定修約位數(shù)后一次修約獲得結(jié)果，而不得多次按進舍規(guī)則連續(xù)修約。例如：修約15.4546，修約間隔為1正確的做法：15.454615不正確的做法：15.454615.45515.4615.516,.,2、在具體實施中，有時測試與計算部門先將獲得數(shù)值按指定的修約位數(shù)多一位或幾位報出，而后由其他部門判定。為避免產(chǎn)生連續(xù)修約的錯誤，應(yīng)按下述步驟進行。,報出數(shù)值最右的非零數(shù)字為5時，應(yīng)在數(shù)值后面加“（）”或“（）”或不加符號，以分別表明已進行過舍、進或未舍未進。例：16.50（）表示實際值大于16.50，經(jīng)修約舍棄成為16.50；16.50（）表示實際值小于16.50，經(jīng)修約進一成為16.50。,.,如果報出值需要進行修約，當(dāng)擬舍棄數(shù)字的最左一位數(shù)字為5而后面無數(shù)字或皆為零時，數(shù)值后面有(+)號者進一，數(shù)值后面有(-)號者舍去，其他仍按數(shù)字修約規(guī)則進行。例：將下列數(shù)字修約到個數(shù)位（報出值多留一位到一位小數(shù)）。實測值報出值修約值15.454615.5（一）15-15.4546-15.5(一)-1516.520316.5（）17-17.5000-17.5-18,.,0.5單位修約及0.2單位修約,.,0.5單位修約（半個單位修約）指修約間隔為指定數(shù)位的0.5單位，即修約到指定數(shù)位的0.5單位。修約方法：將擬修約數(shù)值乘以2，按指定數(shù)位依數(shù)字修約規(guī)則修約，所得數(shù)值再除以2。例：將下列數(shù)字修約到個數(shù)位的0.5單位,擬修約數(shù)值X2X2X修約值X修約值60.25120.5012060.060.38120.7612160.560.28120.5612160.5-60.75-121.50-122-61.0,.,0.2單位修約指修約間隔為指定數(shù)位的0.2單位，即修約到指定數(shù)位的0.2單位。修約方法：將擬修約數(shù)值乘以5，按指定數(shù)位依數(shù)字修約規(guī)則修約，所得數(shù)值再除以5。例：將下列數(shù)字修約到“百”數(shù)位的0.2單位（或修約間隔為20）,.,計算法則,參考上海市計量檢定人員計量基礎(chǔ)知識培訓(xùn)教材,.,加減運算,計算結(jié)果的末位數(shù)位，應(yīng)與參加運算數(shù)據(jù)中的末位數(shù)位最大的位數(shù)相同。對帶小數(shù)點的運算，計算結(jié)果小數(shù)點后保留的位數(shù)應(yīng)與參加運算數(shù)據(jù)里小數(shù)點后末位最左的位數(shù)相同。例：1.5+0.42=1.92=1.9,.,乘除運算,計算結(jié)果的位數(shù)，應(yīng)與參加運算數(shù)據(jù)里有效數(shù)字最小的位數(shù)相同。例：0.160*2.6=0.4160=0.42,.,平方或開方運算,運算結(jié)果與原來數(shù)據(jù)里有效位數(shù)相同。例：1.42=1.96=2.01.233=1.5129=1.51,.,對數(shù)運算,所取對數(shù)位數(shù)應(yīng)與真數(shù)有效數(shù)字位數(shù)相等。例：lg12.3=1.09,.,混合運算,先開方或乘方，并修約，再乘除，進行修約，最后進行加減，并對結(jié)果進行修約。乘除注：以有效數(shù)位數(shù)最少的數(shù)據(jù)為準(zhǔn)，