在實(shí)驗(yàn)數(shù)據(jù)的運(yùn)算中,有效數(shù)字的保留和運(yùn)算規(guī)則必不可少。本期給大家梳理并舉例說明實(shí)驗(yàn)數(shù)值加減、乘除、乘方、開方等運(yùn)算后有效數(shù)字的修約規(guī)則,希望對大家有所幫助!
1. 有效數(shù)字
(1)有效數(shù)字是指在分析和測量中所能得到的有實(shí)際意義的數(shù)字。測量結(jié)果是由有效數(shù)字組成的(前后定位用的“0”除外)。
(2)有效數(shù)字的前幾位都是準(zhǔn)確數(shù)字,只有最后一位是可疑數(shù)字。
例如:
測量結(jié)果1.1080g,前幾位數(shù)字1、1、0、8都是稱量讀到的準(zhǔn)確數(shù)字,而最后一位數(shù)字0則是在沒有刻度的情況下估讀出來的,是不準(zhǔn)確的或者說可疑的。
(3)有效數(shù)字是處于表示測量結(jié)果的數(shù)值的不同數(shù)位上。所有有效數(shù)字所占有的數(shù)位個(gè)數(shù)稱為有效數(shù)字位數(shù)。
例如:
① 數(shù)值3.5,有兩個(gè)有效數(shù)字,占有個(gè)位、十分位兩個(gè)數(shù)位,因而有效數(shù)字位數(shù)為兩位;
② 3.501有四個(gè)有效數(shù)字,占有個(gè)位、十分位、百分位、千分位四個(gè)數(shù)位,因而是四位有效數(shù)字。
(4)測量結(jié)果的數(shù)字,其有效位數(shù)反映了測量結(jié)果的精確度,它直接與測量的精密度有關(guān)。這也是有效數(shù)字實(shí)際意義的體現(xiàn)。
例如:
前述例子中,若測量結(jié)果為1.1080g,則表示測量值的誤差在10-4量級上,天平的精度為萬分之一;若測量結(jié)果為1.108g,則表示測量值的誤差在10-3量級上,天平的精度為千分之一。
2. 修約規(guī)則
3. 數(shù)值運(yùn)算規(guī)則
(1)加減運(yùn)算
幾個(gè)數(shù)相加減的結(jié)果,經(jīng)修約后保留有效數(shù)字的位數(shù),取決于絕對誤差最大的數(shù)值,計(jì)算結(jié)果應(yīng)以絕對誤差最大(即小數(shù)點(diǎn)后位數(shù)最少)的數(shù)據(jù)為基準(zhǔn),來決定計(jì)算結(jié)果數(shù)據(jù)的位數(shù)。
在實(shí)際運(yùn)算過程中,各數(shù)值保留的位數(shù)比各數(shù)值中小數(shù)點(diǎn)后位數(shù)最少者多保留一位小數(shù),而計(jì)算結(jié)果有效數(shù)字的位數(shù)應(yīng)與效數(shù)最少的一數(shù)相同。
例如:29.2+36.582-3.0281≈62.8
(2) 乘除運(yùn)算
幾個(gè)數(shù)據(jù)的乘除運(yùn)算以相對誤差最大(即有效數(shù)字位數(shù)最少)的數(shù)值為基準(zhǔn)來決定結(jié)果數(shù)據(jù)的位數(shù)。
在實(shí)際運(yùn)算中,先將各數(shù)值修約至比有效數(shù)字位數(shù)最少者多保留一位有效數(shù)字運(yùn)算,計(jì)算結(jié)果的有效數(shù)字的位數(shù)與有效數(shù)字位數(shù)最少的數(shù)值相同。(與小數(shù)點(diǎn)位置無關(guān))
例如:
0.235438×28.6×61.8911
≈0.2354×28.6×61.89
=414.6707116
三個(gè)參與運(yùn)算的數(shù)值的有效數(shù)字位數(shù)分別為六位、三位、六位,所以最終計(jì)算結(jié)果用三位有效數(shù)字表示,為415或4.15×102。
(3) 乘方和開方
乘方或開方時(shí),原數(shù)值有幾位有效數(shù)字,計(jì)算結(jié)果就可以保留幾位有效數(shù)字。若計(jì)算結(jié)果還要參與運(yùn)算,則乘方或開方所得結(jié)果可比原數(shù)值多保留一位有效數(shù)字。
例如:
3.582=12.8614,運(yùn)算結(jié)果保留三位有效數(shù)字,為12.9。
(4) 平均值
計(jì)算幾個(gè)數(shù)值的平均值時(shí),先將計(jì)算結(jié)果修約至比要求的位數(shù)多一位,再按數(shù)值修約規(guī)則處理。
(5) 方差和標(biāo)準(zhǔn)偏差
方差和標(biāo)準(zhǔn)偏差在運(yùn)算過程中對中間結(jié)果不做修約,只將最后結(jié)果修約至要求的位數(shù)。
注意:
① 在所有計(jì)算式中,常數(shù)(π、e等)以及非檢測所得的計(jì)算因子(倍數(shù)或分?jǐn)?shù)等)的有效數(shù)字位數(shù),可視為無限,需要幾位就取幾位。
② 使用計(jì)算器(或電腦)進(jìn)行計(jì)算時(shí),一般不對中間每一步驟的計(jì)算結(jié)果進(jìn)行修約,僅對最后的結(jié)果進(jìn)行修約,使其符合事先所確定的位數(shù)。
(6)自然數(shù)
在一些分析化學(xué)運(yùn)算中,有時(shí)會遇到一些倍數(shù)或分?jǐn)?shù)的關(guān)系。例如:水(H2O)的相對分子質(zhì)量=2×1.008+16.00=18.02
其中 “2”不能看做1位有效數(shù)字。因?yàn)樗鼈兪欠菧y量所得到的數(shù),是自然數(shù),其有效數(shù)字位數(shù),可視為無限的。
另外,常數(shù)π、圖片等的有效數(shù)字,可認(rèn)為是無限制,即在計(jì)算中可根據(jù)需要取適當(dāng)?shù)臄?shù)位。
文章(文字)來源:實(shí)驗(yàn)室GB檢測技術(shù)
1. 有效數(shù)字
(1)有效數(shù)字是指在分析和測量中所能得到的有實(shí)際意義的數(shù)字。測量結(jié)果是由有效數(shù)字組成的(前后定位用的“0”除外)。
(2)有效數(shù)字的前幾位都是準(zhǔn)確數(shù)字,只有最后一位是可疑數(shù)字。
例如:
測量結(jié)果1.1080g,前幾位數(shù)字1、1、0、8都是稱量讀到的準(zhǔn)確數(shù)字,而最后一位數(shù)字0則是在沒有刻度的情況下估讀出來的,是不準(zhǔn)確的或者說可疑的。
(3)有效數(shù)字是處于表示測量結(jié)果的數(shù)值的不同數(shù)位上。所有有效數(shù)字所占有的數(shù)位個(gè)數(shù)稱為有效數(shù)字位數(shù)。
例如:
① 數(shù)值3.5,有兩個(gè)有效數(shù)字,占有個(gè)位、十分位兩個(gè)數(shù)位,因而有效數(shù)字位數(shù)為兩位;
② 3.501有四個(gè)有效數(shù)字,占有個(gè)位、十分位、百分位、千分位四個(gè)數(shù)位,因而是四位有效數(shù)字。
(4)測量結(jié)果的數(shù)字,其有效位數(shù)反映了測量結(jié)果的精確度,它直接與測量的精密度有關(guān)。這也是有效數(shù)字實(shí)際意義的體現(xiàn)。
例如:
前述例子中,若測量結(jié)果為1.1080g,則表示測量值的誤差在10-4量級上,天平的精度為萬分之一;若測量結(jié)果為1.108g,則表示測量值的誤差在10-3量級上,天平的精度為千分之一。
2. 修約規(guī)則
3. 數(shù)值運(yùn)算規(guī)則
(1)加減運(yùn)算
幾個(gè)數(shù)相加減的結(jié)果,經(jīng)修約后保留有效數(shù)字的位數(shù),取決于絕對誤差最大的數(shù)值,計(jì)算結(jié)果應(yīng)以絕對誤差最大(即小數(shù)點(diǎn)后位數(shù)最少)的數(shù)據(jù)為基準(zhǔn),來決定計(jì)算結(jié)果數(shù)據(jù)的位數(shù)。
在實(shí)際運(yùn)算過程中,各數(shù)值保留的位數(shù)比各數(shù)值中小數(shù)點(diǎn)后位數(shù)最少者多保留一位小數(shù),而計(jì)算結(jié)果有效數(shù)字的位數(shù)應(yīng)與效數(shù)最少的一數(shù)相同。
例如:29.2+36.582-3.0281≈62.8
(2) 乘除運(yùn)算
幾個(gè)數(shù)據(jù)的乘除運(yùn)算以相對誤差最大(即有效數(shù)字位數(shù)最少)的數(shù)值為基準(zhǔn)來決定結(jié)果數(shù)據(jù)的位數(shù)。
在實(shí)際運(yùn)算中,先將各數(shù)值修約至比有效數(shù)字位數(shù)最少者多保留一位有效數(shù)字運(yùn)算,計(jì)算結(jié)果的有效數(shù)字的位數(shù)與有效數(shù)字位數(shù)最少的數(shù)值相同。(與小數(shù)點(diǎn)位置無關(guān))
例如:
0.235438×28.6×61.8911
≈0.2354×28.6×61.89
=414.6707116
三個(gè)參與運(yùn)算的數(shù)值的有效數(shù)字位數(shù)分別為六位、三位、六位,所以最終計(jì)算結(jié)果用三位有效數(shù)字表示,為415或4.15×102。
(3) 乘方和開方
乘方或開方時(shí),原數(shù)值有幾位有效數(shù)字,計(jì)算結(jié)果就可以保留幾位有效數(shù)字。若計(jì)算結(jié)果還要參與運(yùn)算,則乘方或開方所得結(jié)果可比原數(shù)值多保留一位有效數(shù)字。
例如:
3.582=12.8614,運(yùn)算結(jié)果保留三位有效數(shù)字,為12.9。
(4) 平均值
計(jì)算幾個(gè)數(shù)值的平均值時(shí),先將計(jì)算結(jié)果修約至比要求的位數(shù)多一位,再按數(shù)值修約規(guī)則處理。
(5) 方差和標(biāo)準(zhǔn)偏差
方差和標(biāo)準(zhǔn)偏差在運(yùn)算過程中對中間結(jié)果不做修約,只將最后結(jié)果修約至要求的位數(shù)。
注意:
① 在所有計(jì)算式中,常數(shù)(π、e等)以及非檢測所得的計(jì)算因子(倍數(shù)或分?jǐn)?shù)等)的有效數(shù)字位數(shù),可視為無限,需要幾位就取幾位。
② 使用計(jì)算器(或電腦)進(jìn)行計(jì)算時(shí),一般不對中間每一步驟的計(jì)算結(jié)果進(jìn)行修約,僅對最后的結(jié)果進(jìn)行修約,使其符合事先所確定的位數(shù)。
(6)自然數(shù)
在一些分析化學(xué)運(yùn)算中,有時(shí)會遇到一些倍數(shù)或分?jǐn)?shù)的關(guān)系。例如:水(H2O)的相對分子質(zhì)量=2×1.008+16.00=18.02
其中 “2”不能看做1位有效數(shù)字。因?yàn)樗鼈兪欠菧y量所得到的數(shù),是自然數(shù),其有效數(shù)字位數(shù),可視為無限的。
另外,常數(shù)π、圖片等的有效數(shù)字,可認(rèn)為是無限制,即在計(jì)算中可根據(jù)需要取適當(dāng)?shù)臄?shù)位。
文章(文字)來源:實(shí)驗(yàn)室GB檢測技術(shù)