性吧杏吧,手机色情直播破解版,杏杏吧在线

一文弄懂有效數(shù)字與有效數(shù)字計算規(guī)則

2021/2/16 0:24:47 人評論 次瀏覽 分類:計量檢定  文章地址:http://prosperiteweb.com/tech/3607.html

文章依據(jù)GB/T8170-2008《數(shù)值修約規(guī)則與極限數(shù)值的表示和判定》標準,對有效數(shù)字的概念、有效數(shù)字與儀器準確度關系、數(shù)值修約、有效數(shù)字表示方法和有效數(shù)字數(shù)學運算規(guī)則做深入闡述。

有效數(shù)字是指在實驗測量及分析運算工作中能夠測量和得到的數(shù)字,測量時,把通過直讀獲得的準確數(shù)字叫做可靠數(shù)字,把通過估讀得到的那部分數(shù)字叫做存疑(不可靠、不確定、不準)數(shù)字,把測量結(jié)果中能夠反映被測量大小的帶有一位存疑數(shù)字的全部數(shù)字叫有效數(shù)字,有效數(shù)字是為了體現(xiàn)測量值和計算結(jié)果實際達到的準確度。在記錄、計算時應以測量可能達到的精度為依據(jù)來確定數(shù)據(jù)的位數(shù)和取位。如果參加計算的數(shù)據(jù)的位數(shù)取少了,就會因測量的精度不準而影響計算結(jié)果的應有精度;如果位數(shù)取多了,易使人誤認為測量精度很高,且增加了不必要的計算工作量。


1、準確測量

有效數(shù)字保留的位數(shù),應根據(jù)分析方法與儀器的準確度來決定,一般使測得的數(shù)值中只有最后一位是可疑的。例如在用精確度為0.0002g的分析天平稱取試樣0.5000g,這不僅表明試樣的質(zhì)量0.5000g,還表明稱量的誤差在±0.0002g以內(nèi)。如將其質(zhì)量記錄成0.50g,則表明該試樣是在臺秤上稱量的,共稱量誤差為0.02g,故記錄數(shù)據(jù)的位數(shù)不能任意增加或減少。又如在分析天平上,測得秤量瓶的質(zhì)量為10.4320g,這個記錄說明有6位有效數(shù)字,最后一位是可疑的。即稱量瓶的實際質(zhì)量應為10.4320±0.0002g。無論計量儀器如何精密,其最后一位數(shù)總是估計出來的,因此所謂有效數(shù)字就是保留末一位不準確數(shù)字,其余數(shù)字均為準確數(shù)字。同時從上面的例子也可以看出有效數(shù)字是和儀器的準確程度有關,即有效數(shù)字不僅表明數(shù)量的大小而且也反映測量的準確度。

對于滴定管、移液管和吸量管,它們都能準確測量溶液體積到0.01mL、所以當用50mL滴定管測定溶液體積時,如測量體積大于10mL小于50mL時,應記錄為4位有效數(shù)字,例如寫成24.22mL;如測定體積小于10mL,應記錄3位有效數(shù)字,例如寫成8.13mL、當用25mL移液管移取溶液時,應記錄為25.00mL;當用5mL吸量管取溶液時,應記錄為5.00mL;當用250mL容量瓶配制溶液時,所配溶液體積應即為250.0mL;當用50mL容量瓶配制溶液時,應記錄為50.00mL。


對于0-15V的電壓表,其精確度為0.5V,只能做五分之一估讀,估出0.1V,0.2V,0.3V,0.4V,0.5V雖然不估讀,但為了使小數(shù)點后的位數(shù)對齊,不需要補零!當記錄0.5V,1.0V,5.0V,10.5V,12.5V,13.0V是正確的。


對于0-0.6A的電流表,其準確度是0.02A,只能做二分估讀,估出0.01A,當記錄為0.02A,0.03A,0.10A(是0.02A的5倍),0.12A(是0.02A的6倍),0.20A(是0.02A的10倍),0.27A是正確的。


對于多用表的歐姆檔,因刻度不均勻,是無法估讀的,只能叫粗測(知道大概)!電阻箱無估讀,直接計數(shù)就是,如987.67。


對于游標卡尺,精確度(主尺的最小刻度值-標尺的最小刻度值)有0.1mm、0.05mm、0.02mm三種,小數(shù)點后的位數(shù)只要和精度對齊即可,至于小數(shù)前的位數(shù)是與測量值的大小有關的。例如對精度是0.1mm的卡尺讀數(shù)為0.8mm、10.6mm、12.8mm、128.9mm都對;對精度是0.05mm的卡尺讀數(shù)為0.10mm、10.15mm、108.55mm 都對.對精度是0.02mm的卡尺讀數(shù)為0.04mm、10.12mm、13.56mm、108.78mm、120.80mm都對。為了把0.1mm的卡尺讀數(shù)和其它兩種卡尺讀數(shù)在小數(shù)點后對齊,根據(jù)其讀數(shù)原理和有效數(shù)字的規(guī)則,可以給它們加零,即0.80mm、10.60mm、12.80mm、128.90mm,但其它兩種卡尺不加零!


對于精確度為0.01mm的螺旋測微器,要估讀到0.001mm,即小數(shù)點后有三位有效數(shù)字,如0.141mm、6.004mm、11.901mm、20.578mm等。


當刻度尺測量計錄為8.0cm=80mm=8.0×10-2m(均為兩位有效數(shù)字)時,可知刻度尺的精確度為1cm,當記錄為8.00cm=80.0mm=8.00×10-2m(場為三位有效數(shù)字)時,刻度尺的精確度為1mm。由此可見,物理單位并不影響有效數(shù)字的位數(shù)。
可見:測量結(jié)果所記錄的數(shù)字,應與所用儀器測量的準確度相適應。

2、修約規(guī)則

我國GB/T8170-2008《數(shù)值修約規(guī)則與極限數(shù)值的表示和判定》關于數(shù)值修約規(guī)則的原文內(nèi)容如下:
3 數(shù)值修約規(guī)則
3.1 確定修約間隔
a) 指定修約間隔為10-n(n為正整數(shù)),或指明將數(shù)值修約到n位小數(shù);
b)指定修約間隔為1,或指明將數(shù)值修約到“個”數(shù)位;
c)指定修約間隔為10n(n為正整數(shù)),或指明將數(shù)值修約到10n數(shù)位,或指明將數(shù)值修約到“十”、“百”、“千”......數(shù)位。

3.2 進舍規(guī)則

3.2.1 擬舍棄數(shù)字的最左一位數(shù)字小于5,則舍去,保留其余各位數(shù)字不變。
例:將12.1498修約到個數(shù)位,得12;將12.1498修約到一位小數(shù),得12.1。
3.2.2 擬舍棄數(shù)字的最左一位數(shù)字大于5,則進一,即保留數(shù)字的末位數(shù)字加1。
例:將1268修約到“百”數(shù)位,得13×102(特定場合可寫為1300)。
注:本標準示例中,“特定場合”系指修約間隔明確時。
3.2.3 擬舍棄數(shù)字的最左一位數(shù)字是5,且其后有非0數(shù)字時進一,即保留數(shù)字的末位數(shù)字加1。
例:將10.5002修約到個數(shù)位,得11。
3.2.4 擬舍棄數(shù)字的最左一位數(shù)字為5,且其后無數(shù)字或皆為0時,若所保留的末位數(shù)字為奇數(shù)(1,3,5,7,9)則進一,即保留數(shù)字的末位數(shù)字加1;若所保留的末位數(shù)字為偶數(shù)(0,2,4,6,8),則舍去。
例1:修約間隔為0.1(或10-1)
擬修約數(shù)值     修約值
1.050         10×10-1(特定場合可寫成為1.0)
0.35          4×10-1(特定場合可寫成為0.4)
例2:修約間隔為1000(或103)
擬修約數(shù)值     修約值
2500          2×103(特定場合可寫成為2000)
3500          4×103(特定場合可寫成為4000)
3.2.5 負數(shù)修約時,先將它的絕對值按3.2.1~3.2.4的規(guī)定進行修約,然后在所得值前面加上負號。
例1:將下列數(shù)字修約到“十”數(shù)位:
擬修約數(shù)值     修約值
-355          -36×10(特定場合可寫為-360)
-325          -32×10(特定場合可寫為-320)
例2:將下列數(shù)字修約到三位小數(shù),即修約間隔為10-3
擬修約數(shù)值     修約值
-0.0365        -36×10-3(特定場合可寫為-0.036)

3.3 不允許連續(xù)修約

3.3.1 擬修約數(shù)字應在確定修約間隔或指定修約數(shù)位后一次修約獲得結(jié)果,不得多次按3.2規(guī)則連續(xù)修約。
例1:修約97.46,修約間隔為1。
正確的做法:97.46→97;
不正確的做法,97.46→97.5→98。
例2:修約15.4546,修約間隔為1。
正確的做法:15.4546→15;
不正確的做法:15.454 6→15.455→15.46→15.5→16。
3.3.2 在具休實施中,有時測試與計算部門先將獲得數(shù)值按指定的修約數(shù)位多一位或幾位報出,而后由其他部門判定。為避免產(chǎn)生連續(xù)修約的錯誤,應按下述步驟進行。
3.3.2.1 報出數(shù)值最右的非零數(shù)字為5時,應在數(shù)值右上角加“+”或加“-”或不加符號,分別表明已進行過舍,進或未舍未進。
例:16.50+表示實際值大于16.50,經(jīng)修約舍棄為16.50;16.50-表示實際值小于16.50,經(jīng)修約進一為16.50。
3.3.2.2 如對報出值需進行修約,當擬舍棄數(shù)字的最左一位數(shù)字為5,且其后無數(shù)字或皆為零時,數(shù)值右上角有“+”者進一,有“-”者舍去,其他仍按3.2的規(guī)定進行。
例1:將下列數(shù)字修約到個數(shù)位(報出值多留一位至一位小數(shù))。
實測值         報出值            修約值
15.4546        15.5-             15
-15.4546       -15.5-            -15
16.5203        16.5+             17
-16.5203       -16.5+            -17
17.5000        17.5              18

3.4 0.5單位修約與0.2單位修約

在對數(shù)值進行修約時,若有必要,也可采用0.5單位修約或0.2單位修約。
3.4.1 0.5單位修約(半個單位修約)
0.5單位修約是指按指定修約間隔對擬修約的數(shù)值0.5單位進行的修約。
0.5單位修約方法如下:將擬修約數(shù)值X乘以2,按指定修約間隔對2X依3.2的規(guī)定修約,所得數(shù)值(2X修約值)再除以2。
例:將下列數(shù)字修約到“個”數(shù)位的0.5單位修約。
擬修約數(shù)值X      2X               2X修約值               X修約值
60.25           120.50           120                    60.0
60.38           120.76           121                    60.5
60.28           120.56           121                    60.5
-60.75          -120.50          -122                   -61.0

3.4.2 0.2單位修約

0.2單位修約是指按指定修約間隔對擬修約的數(shù)值0.2單位進行的修約。
0.2單位修約方法如下:將擬修約數(shù)值X乘以5,按指定修約間隔對5X依3.2的規(guī)定修約,所得數(shù)值(5X修約值)再除以5。
例:將下列數(shù)字修約到“百”數(shù)位的0.2單位修約。
擬修約數(shù)值X      5X               5X修約值                X修約值
830             4150             4200                   840
842             4210             4200                   840
832             4160             4200                   840
-930            -4650            -4600                  -920

①當保留n位有效數(shù)字,若第n+1位數(shù)字≤4就舍掉。

②當保留n位有效數(shù)字,若第n+1位數(shù)字≥6時,則第n位數(shù)字進1。
③當保留n位有效數(shù)字,若第n+1位數(shù)字等于5且后面數(shù)字為0時,則第n位數(shù)字若為偶數(shù)時就舍掉后面的數(shù)字,若第n位數(shù)字為奇數(shù)時加1;若第n+1位數(shù)字等于5且后面還有不為0的任何數(shù)字時,無論第n位數(shù)字是奇或是偶都加1。

這一法則的具體運用如下:

(1)將28.175和28.165處理成4位有效數(shù)字,則分別為28.18和28.16。
(2)若被舍棄的第一位數(shù)字大于5,則其前一位數(shù)字加1,例如28.2645處理成3為有效數(shù)字時,其被舍去的第一位數(shù)字為6,大于5,則有效數(shù)字應為28.3。
(3)若被舍去的第一位數(shù)字等于5,而其后數(shù)字全部為零時,則是被保留末位數(shù)字為奇數(shù)或偶數(shù)(零視為偶),而定進或舍,末位數(shù)是奇數(shù)時進1,末位數(shù)為偶數(shù)時還進1,例如28.350、28.250、28.050處理成3位有效數(shù)字時,分別為28.4、28.2和28.0。
(4)若被舍棄的第一位數(shù)字為5,而其后的數(shù)字并非全部為零時,則進1,例如28.2501,只取3位有效數(shù)字時,成為28.3。
(5)若被舍棄的數(shù)字包括幾位數(shù)字時,不得對該數(shù)字進行連續(xù)修約,而應根據(jù)以上各條作一次處理。如2.154546,只取3位有效數(shù)字時,應為2.15,若是按2.154546→2.15455→2.1546→2.155→2.16,得出的2.16是錯誤的!

練習:將下組數(shù)據(jù)保留一位小數(shù):

45.77≈45.8;43.03≈43.0;0.26647≈0.3;10.3500≈10.4;38.25≈38.2;47.15≈47.2;25.6500≈25.6;20.6512≈20.7

3、正確表示

①有效數(shù)字中只應保留一位欠準數(shù)字,因此在記錄測量數(shù)據(jù)時,只有最后一位有效數(shù)字是欠準數(shù)字。

②在有效數(shù)字中,“0”在有效數(shù)字中有兩種意義:一種是作為數(shù)字定值,另一種是有效數(shù)字。例如在分析天平上稱量物質(zhì),得到如下質(zhì)量:
質(zhì)量(g)10.1430,2.1045,0.2104,0.0120,有效數(shù)字位數(shù)分別是6位,5位,4位,3位。

以上數(shù)據(jù)中“0”所起的作用是不同的。在10.1430中兩個“0”都是有效數(shù)字,所以它有6位有效數(shù)字;在2.1045中的“0”也是有效數(shù)字,所以它有5位有效數(shù)字;在0.2104中,小數(shù)前面的“0”是定值用的,不是有效數(shù)字,而在數(shù)據(jù)中的“0”是有效數(shù)字,所以它有4位有效數(shù)字;在0.0120中,“1”前面的兩個“0”都是定值用的,而在末尾的“0”是有效數(shù)字,所以它有3位有效數(shù)字。

可見:數(shù)字中間的“0”和末尾的“0”都是有效數(shù)字,而數(shù)字前面所有的“0”只起定值作用。

③以“0”結(jié)尾的正整數(shù),有效數(shù)字的位數(shù)不確定

例如4500這個數(shù),就不會確定是幾位有效數(shù)字,可能為2位或3位,也可能是4位,遇到這種情況,應根據(jù)實際有效數(shù)字書寫成:4.5×103是2位有效數(shù)字;4.50×103是3位有效數(shù)字;4.500×103是4位有效數(shù)字。因此很大或很小的數(shù),常用10的乘方表示。當有效數(shù)字確定后,在書寫時一般只保留一位可疑數(shù)字,多余數(shù)字按數(shù)字修約規(guī)則處理。
④2.998x104(2.998乘以10的4次方)中,保留3個有效數(shù)字為3.00×104。
⑤對數(shù)的有效數(shù)字為小數(shù)點后的全部數(shù)字,如1gx=1.23有效數(shù)字為2、3;lga=2.045有效數(shù)字為0、4、5,pH=2.35有效數(shù)字為3、5;
⑥π等常數(shù),具有無限位數(shù)的有效數(shù)字,在運算時可根據(jù)需要取適當?shù)奈粩?shù)。

數(shù)學與物理常數(shù)的有效數(shù)字位數(shù)可任意選取,一般選取的位數(shù)應比測量數(shù)據(jù)中位數(shù)最少者多取一位。

例如:π可取=3.14或3.142或3.1416......;在公式中計算結(jié)果不能由于“2”的存在而只取一位存疑數(shù)字,而要根據(jù)其他數(shù)據(jù)來決定。

4、計算規(guī)則

①加減法:以小數(shù)點后位數(shù)最少(即以絕對誤差最大)的數(shù)據(jù)為基準,其他數(shù)據(jù)修約至與其相同,再進行加減計算,最終計算結(jié)果保留最少的位數(shù)。
例1  0.0121+25.64+1.05782=?
修約計算0.01+25.64+1.06=26.71
上例相加3個數(shù)字中,25.64中的“4”已是可疑數(shù)字,因此最后結(jié)果有效數(shù)字的保留應以此數(shù)為準,即保留有效數(shù)字的位數(shù)到小數(shù)點后面第二位。
例2  計算50.1+1.45+0.5812=?
修約計算:50.1+1.4+0.6=52.1
練習:26.65-3.905-26.65-3.90=22.75

②乘除法:以有效數(shù)字最少(即以相對位數(shù)量大)的數(shù)據(jù)為基準,其他有效數(shù)修的至相同,再進行

乘除運算,計算結(jié)果仍保留最少的有效數(shù)字。
例1 計算0.0121×25.64×1.05728=?
解 修約為:0.0121×25.6×1.06=?計算后結(jié)果是:0.3283456,結(jié)果仍保留為三位有效數(shù)字,記錄為:0.0121×25.6×1.06=0.328
分析 這個計算中3個數(shù)的相對誤差分別為:
E%=(±0.0001)/0.0121×100=±8%
E%=(±0.01)/25.64×100=±0.04%
E%=(±0.00001)/1.05782×100=±0.0009%
結(jié)論 第一個數(shù)的相對誤差最大(有效數(shù)字為3位),應以它為準,將其他數(shù)字根據(jù)有效數(shù)字修約原則,保留3位有效數(shù)字,然后相乘即可。
練習 計算2.5046×2.005×1.52≈2.50×2.00×1.52=7.60
例2 當把1.13532×1010保留3個有效數(shù)字時,結(jié)果為1.14×1010

③乘方、開方后的有效數(shù)字位數(shù)與被乘方和被開方之數(shù)的有效數(shù)字的位數(shù)相同。

例3 (0.341)2=0.116

④指數(shù)、對數(shù)、三角函數(shù)運算結(jié)果的有效數(shù)字位數(shù)由其改變量對應的數(shù)位決定,如前述三示例。


⑤自然數(shù),在分析化學中,有時會遇到一些倍數(shù)和分數(shù)的關系,如:水的相對分子量=2×1.008+16.00=18.02;
在這里“2×1.008”中的“2”看作是一位有效數(shù)字。因為它們是非測量所得到的數(shù),是自然數(shù),其有效數(shù)字位數(shù)可視為無限的。
在常見的常量分析中,一般是保留四位有效數(shù)字,但在水質(zhì)分析中,有時只要求保留2位或3位有效數(shù)字,應視具體要求而定。
例4 運算中若有π、e等常數(shù),以及√2、√3、1/2等系數(shù),其有效數(shù)字可視為無限,不影響結(jié)果有效數(shù)字的確定。

綜合以上分析可知

有效數(shù)字的末位是估讀數(shù)字,存在不確定性。一般情況下不確定的有效數(shù)字只取一位,其位數(shù)即是測量結(jié)果的存疑數(shù)字的位置;有時不確定的數(shù)字需要取兩位數(shù)字(存疑數(shù)字因計算進位,會使準確數(shù)字變?yōu)榇嬉?,其最后一個位數(shù)才與測量結(jié)果的存疑數(shù)字的位置對應。

但要注意:具休規(guī)則有一定適用范圍,在通常情況下,由于近似的原因,如不嚴格要求可認為是正確的。由于有效數(shù)字的最后一位是不確定度所在的位置,因此有效數(shù)字在一定程度上反映了測量值的不確定度(或誤差限值),測量值的有效數(shù)字位數(shù)越多,測量的相對不確定度越?。挥行?shù)字位數(shù)越少,相對不確定度就越大??梢姡行?shù)字可以粗略反映測量結(jié)果的不確定度。


有效數(shù)字的運算一般遵循:

(1)可靠數(shù)字之間運算的結(jié)果為可靠數(shù)字。
(2)可靠數(shù)字與存疑數(shù)字,存疑數(shù)字與存疑數(shù)字之間運算的結(jié)果為存疑數(shù)字。
(3)測量數(shù)據(jù)一般只保留一位存疑數(shù)字.
(4)運算結(jié)果的有效數(shù)字位數(shù)不由數(shù)學或物理常數(shù)來確定。
(5)運算結(jié)果將多余的存疑數(shù)字舍去時應按照“四舍六入五成雙”的法則進行處理,即小于等于四則舍;大于五則入;等于五時,根據(jù)其前一位按奇入偶舍處理。
作者:尹明德

共有訪客發(fā)表了評論 網(wǎng)友評論

  客戶姓名:
郵箱或QQ:
驗證碼: 看不清楚?