文章依據(jù)GB/T8170-2008《數(shù)值修約規(guī)則與極限數(shù)值的表示和判定》標(biāo)準(zhǔn),對(duì)有效數(shù)字的概念、有效數(shù)字與儀器準(zhǔn)確度關(guān)系、數(shù)值修約、有效數(shù)字表示方法和有效數(shù)字?jǐn)?shù)學(xué)運(yùn)算規(guī)則做深入闡述。
有效數(shù)字是指在實(shí)驗(yàn)測(cè)量及分析運(yùn)算工作中能夠測(cè)量和得到的數(shù)字,測(cè)量時(shí),把通過直讀獲得的準(zhǔn)確數(shù)字叫做可靠數(shù)字,把通過估讀得到的那部分?jǐn)?shù)字叫做存疑(不可靠、不確定、不準(zhǔn))數(shù)字,把測(cè)量結(jié)果中能夠反映被測(cè)量大小的帶有一位存疑數(shù)字的全部數(shù)字叫有效數(shù)字,有效數(shù)字是為了體現(xiàn)測(cè)量值和計(jì)算結(jié)果實(shí)際達(dá)到的準(zhǔn)確度。在記錄、計(jì)算時(shí)應(yīng)以測(cè)量可能達(dá)到的精度為依據(jù)來確定數(shù)據(jù)的位數(shù)和取位。如果參加計(jì)算的數(shù)據(jù)的位數(shù)取少了,就會(huì)因測(cè)量的精度不準(zhǔn)而影響計(jì)算結(jié)果的應(yīng)有精度;如果位數(shù)取多了,易使人誤認(rèn)為測(cè)量精度很高,且增加了不必要的計(jì)算工作量。
1、準(zhǔn)確測(cè)量
有效數(shù)字保留的位數(shù),應(yīng)根據(jù)分析方法與儀器的準(zhǔn)確度來決定,一般使測(cè)得的數(shù)值中只有最后一位是可疑的。例如在用精確度為0.0002g的分析天平稱取試樣0.5000g,這不僅表明試樣的質(zhì)量0.5000g,還表明稱量的誤差在±0.0002g以內(nèi)。如將其質(zhì)量記錄成0.50g,則表明該試樣是在臺(tái)秤上稱量的,共稱量誤差為0.02g,故記錄數(shù)據(jù)的位數(shù)不能任意增加或減少。又如在分析天平上,測(cè)得秤量瓶的質(zhì)量為10.4320g,這個(gè)記錄說明有6位有效數(shù)字,最后一位是可疑的。即稱量瓶的實(shí)際質(zhì)量應(yīng)為10.4320±0.0002g。無論計(jì)量?jī)x器如何精密,其最后一位數(shù)總是估計(jì)出來的,因此所謂有效數(shù)字就是保留末一位不準(zhǔn)確數(shù)字,其余數(shù)字均為準(zhǔn)確數(shù)字。同時(shí)從上面的例子也可以看出有效數(shù)字是和儀器的準(zhǔn)確程度有關(guān),即有效數(shù)字不僅表明數(shù)量的大小而且也反映測(cè)量的準(zhǔn)確度。
對(duì)于滴定管、移液管和吸量管,它們都能準(zhǔn)確測(cè)量溶液體積到0.01mL、所以當(dāng)用50mL滴定管測(cè)定溶液體積時(shí),如測(cè)量體積大于10mL小于50mL時(shí),應(yīng)記錄為4位有效數(shù)字,例如寫成24.22mL;如測(cè)定體積小于10mL,應(yīng)記錄3位有效數(shù)字,例如寫成8.13mL、當(dāng)用25mL移液管移取溶液時(shí),應(yīng)記錄為25.00mL;當(dāng)用5mL吸量管取溶液時(shí),應(yīng)記錄為5.00mL;當(dāng)用250mL容量瓶配制溶液時(shí),所配溶液體積應(yīng)即為250.0mL;當(dāng)用50mL容量瓶配制溶液時(shí),應(yīng)記錄為50.00mL。
對(duì)于0-15V的電壓表,其精確度為0.5V,只能做五分之一估讀,估出0.1V,0.2V,0.3V,0.4V,0.5V雖然不估讀,但為了使小數(shù)點(diǎn)后的位數(shù)對(duì)齊,不需要補(bǔ)零!當(dāng)記錄0.5V,1.0V,5.0V,10.5V,12.5V,13.0V是正確的。
對(duì)于0-0.6A的電流表,其準(zhǔn)確度是0.02A,只能做二分估讀,估出0.01A,當(dāng)記錄為0.02A,0.03A,0.10A(是0.02A的5倍),0.12A(是0.02A的6倍),0.20A(是0.02A的10倍),0.27A是正確的。
對(duì)于多用表的歐姆檔,因刻度不均勻,是無法估讀的,只能叫粗測(cè)(知道大概)!電阻箱無估讀,直接計(jì)數(shù)就是,如987.67。
對(duì)于游標(biāo)卡尺,精確度(主尺的最小刻度值-標(biāo)尺的最小刻度值)有0.1mm、0.05mm、0.02mm三種,小數(shù)點(diǎn)后的位數(shù)只要和精度對(duì)齊即可,至于小數(shù)前的位數(shù)是與測(cè)量值的大小有關(guān)的。例如對(duì)精度是0.1mm的卡尺讀數(shù)為0.8mm、10.6mm、12.8mm、128.9mm都對(duì);對(duì)精度是0.05mm的卡尺讀數(shù)為0.10mm、10.15mm、108.55mm 都對(duì).對(duì)精度是0.02mm的卡尺讀數(shù)為0.04mm、10.12mm、13.56mm、108.78mm、120.80mm都對(duì)。為了把0.1mm的卡尺讀數(shù)和其它兩種卡尺讀數(shù)在小數(shù)點(diǎn)后對(duì)齊,根據(jù)其讀數(shù)原理和有效數(shù)字的規(guī)則,可以給它們加零,即0.80mm、10.60mm、12.80mm、128.90mm,但其它兩種卡尺不加零!
對(duì)于精確度為0.01mm的螺旋測(cè)微器,要估讀到0.001mm,即小數(shù)點(diǎn)后有三位有效數(shù)字,如0.141mm、6.004mm、11.901mm、20.578mm等。
當(dāng)刻度尺測(cè)量計(jì)錄為8.0cm=80mm=8.0×10-2m(均為兩位有效數(shù)字)時(shí),可知刻度尺的精確度為1cm,當(dāng)記錄為8.00cm=80.0mm=8.00×10-2m(場(chǎng)為三位有效數(shù)字)時(shí),刻度尺的精確度為1mm。由此可見,物理單位并不影響有效數(shù)字的位數(shù)。可見:測(cè)量結(jié)果所記錄的數(shù)字,應(yīng)與所用儀器測(cè)量的準(zhǔn)確度相適應(yīng)。
2、修約規(guī)則
我國(guó)GB/T8170-2008《數(shù)值修約規(guī)則與極限數(shù)值的表示和判定》關(guān)于數(shù)值修約規(guī)則的原文內(nèi)容如下:
3 數(shù)值修約規(guī)則
3.1 確定修約間隔
a) 指定修約間隔為10-n(n為正整數(shù)),或指明將數(shù)值修約到n位小數(shù);
b)指定修約間隔為1,或指明將數(shù)值修約到“個(gè)”數(shù)位;
c)指定修約間隔為10n(n為正整數(shù)),或指明將數(shù)值修約到10n數(shù)位,或指明將數(shù)值修約到“十”、“百”、“千”......數(shù)位。
3.2 進(jìn)舍規(guī)則
3.2.1 擬舍棄數(shù)字的最左一位數(shù)字小于5,則舍去,保留其余各位數(shù)字不變。
例:將12.1498修約到個(gè)數(shù)位,得12;將12.1498修約到一位小數(shù),得12.1。
3.2.2 擬舍棄數(shù)字的最左一位數(shù)字大于5,則進(jìn)一,即保留數(shù)字的末位數(shù)字加1。
例:將1268修約到“百”數(shù)位,得13×102(特定場(chǎng)合可寫為1300)。
注:本標(biāo)準(zhǔn)示例中,“特定場(chǎng)合”系指修約間隔明確時(shí)。
3.2.3 擬舍棄數(shù)字的最左一位數(shù)字是5,且其后有非0數(shù)字時(shí)進(jìn)一,即保留數(shù)字的末位數(shù)字加1。
例:將10.5002修約到個(gè)數(shù)位,得11。
3.2.4 擬舍棄數(shù)字的最左一位數(shù)字為5,且其后無數(shù)字或皆為0時(shí),若所保留的末位數(shù)字為奇數(shù)(1,3,5,7,9)則進(jìn)一,即保留數(shù)字的末位數(shù)字加1;若所保留的末位數(shù)字為偶數(shù)(0,2,4,6,8),則舍去。
例1:修約間隔為0.1(或10-1)
擬修約數(shù)值 修約值
1.050 10×10-1(特定場(chǎng)合可寫成為1.0)
0.35 4×10-1(特定場(chǎng)合可寫成為0.4)
例2:修約間隔為1000(或103)
擬修約數(shù)值 修約值
2500 2×103(特定場(chǎng)合可寫成為2000)
3500 4×103(特定場(chǎng)合可寫成為4000)
3.2.5 負(fù)數(shù)修約時(shí),先將它的絕對(duì)值按3.2.1~3.2.4的規(guī)定進(jìn)行修約,然后在所得值前面加上負(fù)號(hào)。
例1:將下列數(shù)字修約到“十”數(shù)位:
擬修約數(shù)值 修約值
-355 -36×10(特定場(chǎng)合可寫為-360)
-325 -32×10(特定場(chǎng)合可寫為-320)
例2:將下列數(shù)字修約到三位小數(shù),即修約間隔為10-3:
擬修約數(shù)值 修約值
-0.0365 -36×10-3(特定場(chǎng)合可寫為-0.036)
3.3 不允許連續(xù)修約
3.3.1 擬修約數(shù)字應(yīng)在確定修約間隔或指定修約數(shù)位后一次修約獲得結(jié)果,不得多次按3.2規(guī)則連續(xù)修約。
例1:修約97.46,修約間隔為1。
正確的做法:97.46→97;
不正確的做法,97.46→97.5→98。
例2:修約15.4546,修約間隔為1。
正確的做法:15.4546→15;
不正確的做法:15.454 6→15.455→15.46→15.5→16。
3.3.2 在具休實(shí)施中,有時(shí)測(cè)試與計(jì)算部門先將獲得數(shù)值按指定的修約數(shù)位多一位或幾位報(bào)出,而后由其他部門判定。為避免產(chǎn)生連續(xù)修約的錯(cuò)誤,應(yīng)按下述步驟進(jìn)行。
3.3.2.1 報(bào)出數(shù)值最右的非零數(shù)字為5時(shí),應(yīng)在數(shù)值右上角加“+”或加“-”或不加符號(hào),分別表明已進(jìn)行過舍,進(jìn)或未舍未進(jìn)。
例:16.50+表示實(shí)際值大于16.50,經(jīng)修約舍棄為16.50;16.50-表示實(shí)際值小于16.50,經(jīng)修約進(jìn)一為16.50。
3.3.2.2 如對(duì)報(bào)出值需進(jìn)行修約,當(dāng)擬舍棄數(shù)字的最左一位數(shù)字為5,且其后無數(shù)字或皆為零時(shí),數(shù)值右上角有“+”者進(jìn)一,有“-”者舍去,其他仍按3.2的規(guī)定進(jìn)行。
例1:將下列數(shù)字修約到個(gè)數(shù)位(報(bào)出值多留一位至一位小數(shù))。
實(shí)測(cè)值 報(bào)出值 修約值
15.4546 15.5- 15
-15.4546 -15.5- -15
16.5203 16.5+ 17
-16.5203 -16.5+ -17
17.5000 17.5 18
3.4 0.5單位修約與0.2單位修約
在對(duì)數(shù)值進(jìn)行修約時(shí),若有必要,也可采用0.5單位修約或0.2單位修約。
3.4.1 0.5單位修約(半個(gè)單位修約)
0.5單位修約是指按指定修約間隔對(duì)擬修約的數(shù)值0.5單位進(jìn)行的修約。
0.5單位修約方法如下:將擬修約數(shù)值X乘以2,按指定修約間隔對(duì)2X依3.2的規(guī)定修約,所得數(shù)值(2X修約值)再除以2。
例:將下列數(shù)字修約到“個(gè)”數(shù)位的0.5單位修約。
擬修約數(shù)值X 2X 2X修約值 X修約值
60.25 120.50 120 60.0
60.38 120.76 121 60.5
60.28 120.56 121 60.5
-60.75 -120.50 -122 -61.0
3.4.2 0.2單位修約
0.2單位修約是指按指定修約間隔對(duì)擬修約的數(shù)值0.2單位進(jìn)行的修約。
0.2單位修約方法如下:將擬修約數(shù)值X乘以5,按指定修約間隔對(duì)5X依3.2的規(guī)定修約,所得數(shù)值(5X修約值)再除以5。
例:將下列數(shù)字修約到“百”數(shù)位的0.2單位修約。
擬修約數(shù)值X 5X 5X修約值 X修約值
830 4150 4200 840
842 4210 4200 840
832 4160 4200 840
-930 -4650 -4600 -920
①當(dāng)保留n位有效數(shù)字,若第n+1位數(shù)字≤4就舍掉。
②當(dāng)保留n位有效數(shù)字,若第n+1位數(shù)字≥6時(shí),則第n位數(shù)字進(jìn)1。
③當(dāng)保留n位有效數(shù)字,若第n+1位數(shù)字等于5且后面數(shù)字為0時(shí),則第n位數(shù)字若為偶數(shù)時(shí)就舍掉后面的數(shù)字,若第n位數(shù)字為奇數(shù)時(shí)加1;若第n+1位數(shù)字等于5且后面還有不為0的任何數(shù)字時(shí),無論第n位數(shù)字是奇或是偶都加1。
這一法則的具體運(yùn)用如下:
(1)將28.175和28.165處理成4位有效數(shù)字,則分別為28.18和28.16。
(2)若被舍棄的第一位數(shù)字大于5,則其前一位數(shù)字加1,例如28.2645處理成3為有效數(shù)字時(shí),其被舍去的第一位數(shù)字為6,大于5,則有效數(shù)字應(yīng)為28.3。
(3)若被舍去的第一位數(shù)字等于5,而其后數(shù)字全部為零時(shí),則是被保留末位數(shù)字為奇數(shù)或偶數(shù)(零視為偶),而定進(jìn)或舍,末位數(shù)是奇數(shù)時(shí)進(jìn)1,末位數(shù)為偶數(shù)時(shí)還進(jìn)1,例如28.350、28.250、28.050處理成3位有效數(shù)字時(shí),分別為28.4、28.2和28.0。
(4)若被舍棄的第一位數(shù)字為5,而其后的數(shù)字并非全部為零時(shí),則進(jìn)1,例如28.2501,只取3位有效數(shù)字時(shí),成為28.3。
(5)若被舍棄的數(shù)字包括幾位數(shù)字時(shí),不得對(duì)該數(shù)字進(jìn)行連續(xù)修約,而應(yīng)根據(jù)以上各條作一次處理。如2.154546,只取3位有效數(shù)字時(shí),應(yīng)為2.15,若是按2.154546→2.15455→2.1546→2.155→2.16,得出的2.16是錯(cuò)誤的!
練習(xí):將下組數(shù)據(jù)保留一位小數(shù):
45.77≈45.8;43.03≈43.0;0.26647≈0.3;10.3500≈10.4;38.25≈38.2;47.15≈47.2;25.6500≈25.6;20.6512≈20.7
3、正確表示
①有效數(shù)字中只應(yīng)保留一位欠準(zhǔn)數(shù)字,因此在記錄測(cè)量數(shù)據(jù)時(shí),只有最后一位有效數(shù)字是欠準(zhǔn)數(shù)字。
②在有效數(shù)字中,“0”在有效數(shù)字中有兩種意義:一種是作為數(shù)字定值,另一種是有效數(shù)字。例如在分析天平上稱量物質(zhì),得到如下質(zhì)量:質(zhì)量(g)10.1430,2.1045,0.2104,0.0120,有效數(shù)字位數(shù)分別是6位,5位,4位,3位。
以上數(shù)據(jù)中“0”所起的作用是不同的。在10.1430中兩個(gè)“0”都是有效數(shù)字,所以它有6位有效數(shù)字;在2.1045中的“0”也是有效數(shù)字,所以它有5位有效數(shù)字;在0.2104中,小數(shù)前面的“0”是定值用的,不是有效數(shù)字,而在數(shù)據(jù)中的“0”是有效數(shù)字,所以它有4位有效數(shù)字;在0.0120中,“1”前面的兩個(gè)“0”都是定值用的,而在末尾的“0”是有效數(shù)字,所以它有3位有效數(shù)字。
可見:數(shù)字中間的“0”和末尾的“0”都是有效數(shù)字,而數(shù)字前面所有的“0”只起定值作用。
③以“0”結(jié)尾的正整數(shù),有效數(shù)字的位數(shù)不確定
例如4500這個(gè)數(shù),就不會(huì)確定是幾位有效數(shù)字,可能為2位或3位,也可能是4位,遇到這種情況,應(yīng)根據(jù)實(shí)際有效數(shù)字書寫成:4.5×103是2位有效數(shù)字;4.50×103是3位有效數(shù)字;4.500×103是4位有效數(shù)字。因此很大或很小的數(shù),常用10的乘方表示。當(dāng)有效數(shù)字確定后,在書寫時(shí)一般只保留一位可疑數(shù)字,多余數(shù)字按數(shù)字修約規(guī)則處理。
④2.998x104(2.998乘以10的4次方)中,保留3個(gè)有效數(shù)字為3.00×104。
⑤對(duì)數(shù)的有效數(shù)字為小數(shù)點(diǎn)后的全部數(shù)字,如1gx=1.23有效數(shù)字為2、3;lga=2.045有效數(shù)字為0、4、5,pH=2.35有效數(shù)字為3、5;
⑥π等常數(shù),具有無限位數(shù)的有效數(shù)字,在運(yùn)算時(shí)可根據(jù)需要取適當(dāng)?shù)奈粩?shù)。
數(shù)學(xué)與物理常數(shù)的有效數(shù)字位數(shù)可任意選取,一般選取的位數(shù)應(yīng)比測(cè)量數(shù)據(jù)中位數(shù)最少者多取一位。
例如:π可取=3.14或3.142或3.1416......;在公式中計(jì)算結(jié)果不能由于“2”的存在而只取一位存疑數(shù)字,而要根據(jù)其他數(shù)據(jù)來決定。
4、計(jì)算規(guī)則
①加減法:以小數(shù)點(diǎn)后位數(shù)最少(即以絕對(duì)誤差最大)的數(shù)據(jù)為基準(zhǔn),其他數(shù)據(jù)修約至與其相同,再進(jìn)行加減計(jì)算,最終計(jì)算結(jié)果保留最少的位數(shù)。
例1 0.0121+25.64+1.05782=?
修約計(jì)算0.01+25.64+1.06=26.71
上例相加3個(gè)數(shù)字中,25.64中的“4”已是可疑數(shù)字,因此最后結(jié)果有效數(shù)字的保留應(yīng)以此數(shù)為準(zhǔn),即保留有效數(shù)字的位數(shù)到小數(shù)點(diǎn)后面第二位。
例2 計(jì)算50.1+1.45+0.5812=?
修約計(jì)算:50.1+1.4+0.6=52.1
練習(xí):26.65-3.905-26.65-3.90=22.75
②乘除法:以有效數(shù)字最少(即以相對(duì)位數(shù)量大)的數(shù)據(jù)為基準(zhǔn),其他有效數(shù)修的至相同,再進(jìn)行
乘除運(yùn)算,計(jì)算結(jié)果仍保留最少的有效數(shù)字。
例1 計(jì)算0.0121×25.64×1.05728=?
解 修約為:0.0121×25.6×1.06=?計(jì)算后結(jié)果是:0.3283456,結(jié)果仍保留為三位有效數(shù)字,記錄為:0.0121×25.6×1.06=0.328
分析 這個(gè)計(jì)算中3個(gè)數(shù)的相對(duì)誤差分別為:
E%=(±0.0001)/0.0121×100=±8%
E%=(±0.01)/25.64×100=±0.04%
E%=(±0.00001)/1.05782×100=±0.0009%
結(jié)論 第一個(gè)數(shù)的相對(duì)誤差最大(有效數(shù)字為3位),應(yīng)以它為準(zhǔn),將其他數(shù)字根據(jù)有效數(shù)字修約原則,保留3位有效數(shù)字,然后相乘即可。
練習(xí) 計(jì)算2.5046×2.005×1.52≈2.50×2.00×1.52=7.60
例2 當(dāng)把1.13532×1010保留3個(gè)有效數(shù)字時(shí),結(jié)果為1.14×1010。
③乘方、開方后的有效數(shù)字位數(shù)與被乘方和被開方之?dāng)?shù)的有效數(shù)字的位數(shù)相同。
例3 (0.341)2=0.116
④指數(shù)、對(duì)數(shù)、三角函數(shù)運(yùn)算結(jié)果的有效數(shù)字位數(shù)由其改變量對(duì)應(yīng)的數(shù)位決定,如前述三示例。
⑤自然數(shù),在分析化學(xué)中,有時(shí)會(huì)遇到一些倍數(shù)和分?jǐn)?shù)的關(guān)系,如:水的相對(duì)分子量=2×1.008+16.00=18.02;在這里“2×1.008”中的“2”看作是一位有效數(shù)字。因?yàn)樗鼈兪欠菧y(cè)量所得到的數(shù),是自然數(shù),其有效數(shù)字位數(shù)可視為無限的。
在常見的常量分析中,一般是保留四位有效數(shù)字,但在水質(zhì)分析中,有時(shí)只要求保留2位或3位有效數(shù)字,應(yīng)視具體要求而定。
例4 運(yùn)算中若有π、e等常數(shù),以及√2、√3、1/2等系數(shù),其有效數(shù)字可視為無限,不影響結(jié)果有效數(shù)字的確定。
綜合以上分析可知
有效數(shù)字的末位是估讀數(shù)字,存在不確定性。一般情況下不確定的有效數(shù)字只取一位,其位數(shù)即是測(cè)量結(jié)果的存疑數(shù)字的位置;有時(shí)不確定的數(shù)字需要取兩位數(shù)字(存疑數(shù)字因計(jì)算進(jìn)位,會(huì)使準(zhǔn)確數(shù)字變?yōu)榇嬉?,其最后一個(gè)位數(shù)才與測(cè)量結(jié)果的存疑數(shù)字的位置對(duì)應(yīng)。
但要注意:具休規(guī)則有一定適用范圍,在通常情況下,由于近似的原因,如不嚴(yán)格要求可認(rèn)為是正確的。由于有效數(shù)字的最后一位是不確定度所在的位置,因此有效數(shù)字在一定程度上反映了測(cè)量值的不確定度(或誤差限值),測(cè)量值的有效數(shù)字位數(shù)越多,測(cè)量的相對(duì)不確定度越小;有效數(shù)字位數(shù)越少,相對(duì)不確定度就越大??梢?,有效數(shù)字可以粗略反映測(cè)量結(jié)果的不確定度。
有效數(shù)字的運(yùn)算一般遵循:
(1)可靠數(shù)字之間運(yùn)算的結(jié)果為可靠數(shù)字。
(2)可靠數(shù)字與存疑數(shù)字,存疑數(shù)字與存疑數(shù)字之間運(yùn)算的結(jié)果為存疑數(shù)字。
(3)測(cè)量數(shù)據(jù)一般只保留一位存疑數(shù)字.
(4)運(yùn)算結(jié)果的有效數(shù)字位數(shù)不由數(shù)學(xué)或物理常數(shù)來確定。
(5)運(yùn)算結(jié)果將多余的存疑數(shù)字舍去時(shí)應(yīng)按照“四舍六入五成雙”的法則進(jìn)行處理,即小于等于四則舍;大于五則入;等于五時(shí),根據(jù)其前一位按奇入偶舍處理。
作者:尹明德
共有訪客發(fā)表了評(píng)論
網(wǎng)友評(píng)論