有效數(shù)字運(yùn)算及修約[重要課資]

1、數(shù)值修約規(guī)則及極限數(shù)值的表示和判定數(shù)值修約規(guī)則及極限數(shù)值的表示和判定 Significant figure 1課堂使用 情景導(dǎo)入情景導(dǎo)入 v進(jìn)行化學(xué)滴定分析時(shí)，當(dāng)凹液面在兩刻度線 之間時(shí)，需要對(duì)兩刻度線之間的體積進(jìn)行估 讀，梅仁耀讀取到23.44mL、梅仁愛讀取到 23.46mL、梅仁姓讀取到23.45mL； v梅聞畫看到一試劑柜中的NaOH標(biāo)準(zhǔn)滴定溶液 的濃度寫著：0.1065(+)mol/L。 2課堂使用 有效數(shù)字的定義有效數(shù)字的定義 v數(shù)學(xué)定義：數(shù)學(xué)定義：從左邊第一個(gè)不是0的數(shù)字算起，到精 確到的位數(shù)為止，所有的數(shù)字都叫做這個(gè)數(shù)的有 效數(shù)字。 v分析化學(xué)定義：分析化學(xué)定義：在分析工作中實(shí)

2、際能夠測(cè)量到的 數(shù)字。能夠測(cè)量到的是包括最后一位估讀的，不 確定的數(shù)字。我們把通過直讀獲得的準(zhǔn)確數(shù)字叫 做可靠數(shù)字，把通過估讀得到的那部分?jǐn)?shù)字叫做 存疑數(shù)字，把測(cè)量結(jié)果中能夠反映被測(cè)量大小的 帶有一位存疑數(shù)字的全部數(shù)字叫有效數(shù)字。 3課堂使用 有效數(shù)字位數(shù)判定有效數(shù)字位數(shù)判定 v1.0008 43.181 五位 v0.1000 10.98% 四位 v0.0382 1.9810-10 三位 v 54 0.0040 兩位 v3600 100 位數(shù)模糊 v注意： v1、以上數(shù)據(jù)中0的左右的差異； v2、對(duì)于3600之類的數(shù)字，一般看成4位有 效數(shù)字，但它也可能是2位(3.6103)或3位 (3.60

3、102) 4課堂使用 有效數(shù)字位數(shù)判定有效數(shù)字位數(shù)判定 v1、在分析化學(xué)計(jì)算中，常遇到倍數(shù)、分?jǐn)?shù) 關(guān)系，這些數(shù)據(jù)不是測(cè)量直接得到的，可 視為無(wú)限多位有效數(shù)字； v2、對(duì)于pH、pM、lgc、lgK等對(duì)數(shù)值，其有 效數(shù)字取決于小數(shù)部分的位數(shù)，因?yàn)檎麛?shù) 部分只代表該數(shù)字的方次。 ve.g. pH=11.20，換算為H+濃度時(shí)，應(yīng)為 c(H+)=6.310-12mol/L，有效數(shù)字是兩位。 5課堂使用 數(shù)值修約規(guī)則數(shù)值修約規(guī)則 v數(shù)值修約：數(shù)值修約：通過省略原數(shù)值的最后若干位數(shù)字， 調(diào)整所保留的若干位數(shù)字，使最后得到的值最接 近原數(shù)值的過程。 v修約間隔：修約間隔：修約值的最小數(shù)值單位。修約間隔的

4、數(shù)值一經(jīng)確定，修約值一定是該數(shù)值的整數(shù)倍。 ve.g.1：修約間隔為0.1(或10-1)，表示將數(shù)值修約 至一位小數(shù)； ve.g.2：修約間隔為100(或102)，表示將數(shù)值修約 至百位數(shù)。 v極限數(shù)值：極限數(shù)值：標(biāo)準(zhǔn)(或技術(shù)規(guī)范)中規(guī)定考核的以數(shù) 量形式給出且符合該標(biāo)準(zhǔn)(或技術(shù)規(guī)范)要求的指標(biāo) 數(shù)值范圍的界限值，即指標(biāo)的上限或者下限。 6課堂使用 數(shù)值修約規(guī)則數(shù)值修約規(guī)則 v數(shù)值修約的步驟大體分兩步：數(shù)值修約的步驟大體分兩步： v1、確定修約間隔； v2、根據(jù)修約的進(jìn)舍規(guī)則對(duì)數(shù)值進(jìn)行修約。 v數(shù)值修約的規(guī)則：數(shù)值修約的規(guī)則： v1、進(jìn)舍規(guī)則； v2、不允許連續(xù)修約； v3、0.5單位修約；

5、v4、0.2單位修約。 7課堂使用 進(jìn)舍規(guī)則進(jìn)舍規(guī)則 v大規(guī)則：四舍六入五成雙 v 擬舍棄數(shù)字的最左一位數(shù)字小于5，則舍 去，保留其余各位數(shù)字不變； ve.g. 將12.1498修約至個(gè)位數(shù)，得到12，修 約至小數(shù)點(diǎn)后一位，得到12.1. v 擬舍棄數(shù)字的最左一位數(shù)字大于5，則進(jìn) 一，即保留位數(shù)的末位數(shù)字加一； ve.g. 將13.1634修約至小數(shù)點(diǎn)后一位，得到 13.2。 8課堂使用 進(jìn)舍規(guī)則進(jìn)舍規(guī)則 v 擬舍棄數(shù)字的最左一位數(shù)字是5，且其后有非0 數(shù)字時(shí)進(jìn)一，即保留數(shù)字的末位數(shù)字加1。 ve.g. 將11.5002修約至個(gè)位數(shù)，得12。 v 擬舍棄數(shù)字的最左一位數(shù)字是5，且其后無(wú)數(shù) 字或

6、皆為0時(shí)，若所保留數(shù)字的末位數(shù)字為奇數(shù)時(shí) 則進(jìn)一，若所保留數(shù)字的末位數(shù)字為偶數(shù)時(shí)則舍 去。 ve.g. 將1.050修約至小數(shù)點(diǎn)后一位得1.0，將0.35 修約至小數(shù)點(diǎn)后一位得0.4。 v 負(fù)數(shù)修約時(shí)先取絕對(duì)值，按照 中的 規(guī)則進(jìn)行修約，然后在其前面加上負(fù)號(hào)。 9課堂使用 不允許連續(xù)修約規(guī)則不允許連續(xù)修約規(guī)則 v(1) 擬修約數(shù)字應(yīng)在確定修約間隔或指定修 約數(shù)位后一次修約獲得結(jié)果，不得按照進(jìn) 舍規(guī)則多次進(jìn)行多次修約。 ve.g. 將97.46修約至個(gè)位數(shù) v正確做法：97.4697 v錯(cuò)誤做法：97.4697.598 10課堂使用 不允許連續(xù)修約規(guī)則不允許連續(xù)修約規(guī)則 v(2) 在具體實(shí)施中，

7、有時(shí)測(cè)試與計(jì)算部門先 將獲得的數(shù)值按照指定的修約數(shù)位多一位 或幾位報(bào)出，而后再由其它部門判定。為 了避免產(chǎn)生連續(xù)修約的錯(cuò)誤，應(yīng)按以下兩 個(gè)步驟進(jìn)行操作。 11課堂使用 不允許連續(xù)修約規(guī)則不允許連續(xù)修約規(guī)則 v.報(bào)出數(shù)值最右的非零數(shù)字為5時(shí)，應(yīng)在數(shù)值的 右上角加上“+”或“-”或不加符號(hào)，分別表明 進(jìn)行過舍、進(jìn)或未舍未進(jìn)。 ve.g. 16.50+，表示實(shí)際值大于16.50，16.50-表示 實(shí)際值小于16.50。 v.如對(duì)報(bào)出值需進(jìn)行修約，當(dāng)擬舍棄的最后一位 數(shù)值為5，且其后無(wú)數(shù)字或皆為0時(shí)，數(shù)值右上角 有“+”者進(jìn)一，有“-”者舍去，其余按照 中的規(guī)則進(jìn)行修約。 12課堂使用 0.5單位修約

8、和單位修約和0.2單位修約單位修約 v定義：0.5單位修約是指按指定修約單位間 隔對(duì)擬修約的數(shù)值的0.5單位進(jìn)行的修約。 v步驟：將擬修約數(shù)值X乘以2，按指定修約 間隔對(duì)2X根據(jù)上述進(jìn)舍規(guī)則進(jìn)行修約，得 到的數(shù)值(2X修約值)再除以2。 v0.2單位修約的定義和步驟跟0.5單位修約類 似，將倍數(shù)“2”變?yōu)椤?”。 13課堂使用 14課堂使用 有效數(shù)字的有效數(shù)字的 v在實(shí)際的分析工作中，經(jīng)常會(huì)遇到計(jì)算公 式，而計(jì)算公式中的不同項(xiàng)目所保留的有 效數(shù)字的位數(shù)是不同的，最終的計(jì)算結(jié)果 到底保留多少個(gè)有效數(shù)字值得關(guān)注。 15課堂使用 有效數(shù)字的運(yùn)算有效數(shù)字的運(yùn)算 v在幾個(gè)數(shù)據(jù)相加或相減時(shí)，有效數(shù)字的保

9、留，應(yīng)該以小數(shù)點(diǎn)后位數(shù)最少的數(shù)字為根 據(jù)。 ve.g. 0.0121+25.64+1.05782=？ v每個(gè)數(shù)據(jù)最后一位都有1的絕對(duì)誤差，即 0.012 10.0001；25.64 0.01；0.10572 0.00001；以上數(shù)據(jù)中以25.64的絕對(duì)誤差 最大，在加減運(yùn)算中最終結(jié)果的絕對(duì)誤差 決定于該數(shù)據(jù)，故最終結(jié)果的有效數(shù)字位 數(shù)決定于25.64這個(gè)數(shù)據(jù)。 vSo 上式變換為：0.01+25.64+1.06=26.71 16課堂使用 有效數(shù)字的有效數(shù)字的運(yùn)算運(yùn)算 v在幾個(gè)數(shù)據(jù)相乘或相除時(shí)，有效數(shù)字的保留， 應(yīng)與幾個(gè)數(shù)據(jù)中相對(duì)誤差最大的數(shù)相對(duì)應(yīng)，通 常根據(jù)有效數(shù)字最少的數(shù)據(jù)來(lái)進(jìn)行修約。 ve

10、.g. 0.012125.641.05782=？ v每個(gè)數(shù)據(jù)最后一位都有1的絕對(duì)誤差，三個(gè)數(shù) 據(jù)的相對(duì)誤差分別是： v0.0121的相對(duì)誤差最大，故運(yùn)算時(shí)以它為標(biāo)準(zhǔn)將 另外兩個(gè)數(shù)據(jù)修約為三位有效數(shù)字的，再相乘。 v即0.012125.61.06=0.328 %8 .0%100 121 1 %4 . 0%100 2564 1 %009. 0%100 105782 1 17課堂使用 極限數(shù)值的表示和判定極限數(shù)值的表示和判定 v書寫極限數(shù)值的一般原則書寫極限數(shù)值的一般原則 v一、標(biāo)準(zhǔn)(或其它技術(shù)規(guī)范)中規(guī)定考核的以數(shù)量形 式給出的指標(biāo)或參數(shù)等，應(yīng)當(dāng)規(guī)定極限數(shù)值。極 限數(shù)值表示符合該標(biāo)準(zhǔn)要求的數(shù)值范圍

11、的界限值， 它通過給出最小極限值和(或)最大極限值，或給出 基本數(shù)值與極限偏差值等方式表達(dá)。 v二、標(biāo)準(zhǔn)中的極限數(shù)值的表示方式及書寫位數(shù)應(yīng) 適當(dāng)，其有效數(shù)字應(yīng)該全部寫出。書寫位數(shù)表示 的精確程度，應(yīng)能保證產(chǎn)品或其它標(biāo)準(zhǔn)化對(duì)象的 性能和質(zhì)量。 18課堂使用 表示極限數(shù)值的基本用語(yǔ)及其組合表示極限數(shù)值的基本用語(yǔ)及其組合 19課堂使用 帶有極限偏差值的數(shù)值帶有極限偏差值的數(shù)值 20課堂使用 測(cè)定值或其計(jì)算值與標(biāo)準(zhǔn)規(guī)定的極限數(shù)值的作測(cè)定值或其計(jì)算值與標(biāo)準(zhǔn)規(guī)定的極限數(shù)值的作 比較方法比較方法 v1）全數(shù)值比較法 v2）修約值比較法 v當(dāng)標(biāo)準(zhǔn)或有關(guān)文件中，若對(duì)極限數(shù)值(包括帶 有極限偏差的數(shù)值)無(wú)特殊規(guī)定時(shí)，均應(yīng)使用 全數(shù)值比較法。如規(guī)定修約值比較法，應(yīng)在 標(biāo)準(zhǔn)中加以說(shuō)明。 v若標(biāo)準(zhǔn)或有關(guān)文件規(guī)定了使用其中一種比較 方法時(shí)，一經(jīng)確定，不得改動(dòng)。 21課堂使用 全數(shù)值比較法全數(shù)值比較法 v將測(cè)試所得的測(cè)定值或計(jì)算值不經(jīng)修約處理(或雖 經(jīng)修約處理，但應(yīng)標(biāo)明它是經(jīng)舍、進(jìn)貨未舍未進(jìn) 而得)，用該數(shù)值與規(guī)定的極限數(shù)值作比較，只要 超出極限數(shù)值規(guī)定的范圍(不論超出程度大小)，都 判定為不符合要求。 修約值比較法修約值比較法 v將測(cè)定值或其計(jì)算值進(jìn)行修約，修約位數(shù)應(yīng)與規(guī) 定的極限數(shù)值位數(shù)一致。 v當(dāng)測(cè)試