亚洲欧美日韩国产综合网_自拍视频精品一区二区三区_无码激情AV一区二区三区_二天天AV综合网

食品伙伴網(wǎng)服務(wù)號

內(nèi)卷不能輸,有效數(shù)字運(yùn)算規(guī)則知多少!

放大字體  縮小字體 發(fā)布日期:2022-12-29
核心提示:在實(shí)驗(yàn)數(shù)據(jù)的運(yùn)算中,有效數(shù)字的保留和運(yùn)算規(guī)則必不可少。本期給大家梳理并舉例說明實(shí)驗(yàn)數(shù)值加減、乘除、乘方、開方等運(yùn)算后有效
在實(shí)驗(yàn)數(shù)據(jù)的運(yùn)算中,有效數(shù)字的保留和運(yùn)算規(guī)則必不可少。本期給大家梳理并舉例說明實(shí)驗(yàn)數(shù)值加減、乘除、乘方、開方等運(yùn)算后有效數(shù)字的修約規(guī)則,希望對大家有所幫助!

1. 有效數(shù)字
(1)有效數(shù)字是指在分析和測量中所能得到的有實(shí)際意義的數(shù)字。測量結(jié)果是由有效數(shù)字組成的(前后定位用的“0”除外)。

(2)有效數(shù)字的前幾位都是準(zhǔn)確數(shù)字,只有最后一位是可疑數(shù)字。

例如:

測量結(jié)果1.1080g,前幾位數(shù)字1、1、0、8都是稱量讀到的準(zhǔn)確數(shù)字,而最后一位數(shù)字0則是在沒有刻度的情況下估讀出來的,是不準(zhǔn)確的或者說可疑的。

(3)有效數(shù)字是處于表示測量結(jié)果的數(shù)值的不同數(shù)位上。所有有效數(shù)字所占有的數(shù)位個(gè)數(shù)稱為有效數(shù)字位數(shù)。

例如:

① 數(shù)值3.5,有兩個(gè)有效數(shù)字,占有個(gè)位、十分位兩個(gè)數(shù)位,因而有效數(shù)字位數(shù)為兩位;

② 3.501有四個(gè)有效數(shù)字,占有個(gè)位、十分位、百分位、千分位四個(gè)數(shù)位,因而是四位有效數(shù)字。

(4)測量結(jié)果的數(shù)字,其有效位數(shù)反映了測量結(jié)果的精確度,它直接與測量的精密度有關(guān)。這也是有效數(shù)字實(shí)際意義的體現(xiàn)。

例如:

前述例子中,若測量結(jié)果為1.1080g,則表示測量值的誤差在10-4量級上,天平的精度為萬分之一;若測量結(jié)果為1.108g,則表示測量值的誤差在10-3量級上,天平的精度為千分之一。

2. 修約規(guī)則
3. 數(shù)值運(yùn)算規(guī)則

(1)加減運(yùn)算

幾個(gè)數(shù)相加減的結(jié)果,經(jīng)修約后保留有效數(shù)字的位數(shù),取決于絕對誤差最大的數(shù)值,計(jì)算結(jié)果應(yīng)以絕對誤差最大(即小數(shù)點(diǎn)后位數(shù)最少)的數(shù)據(jù)為基準(zhǔn),來決定計(jì)算結(jié)果數(shù)據(jù)的位數(shù)。

在實(shí)際運(yùn)算過程中,各數(shù)值保留的位數(shù)比各數(shù)值中小數(shù)點(diǎn)后位數(shù)最少者多保留一位小數(shù),而計(jì)算結(jié)果有效數(shù)字的位數(shù)應(yīng)與效數(shù)最少的一數(shù)相同。

例如:29.2+36.582-3.0281≈62.8

(2) 乘除運(yùn)算
幾個(gè)數(shù)據(jù)的乘除運(yùn)算以相對誤差最大(即有效數(shù)字位數(shù)最少)的數(shù)值為基準(zhǔn)來決定結(jié)果數(shù)據(jù)的位數(shù)。

在實(shí)際運(yùn)算中,先將各數(shù)值修約至比有效數(shù)字位數(shù)最少者多保留一位有效數(shù)字運(yùn)算,計(jì)算結(jié)果的有效數(shù)字的位數(shù)與有效數(shù)字位數(shù)最少的數(shù)值相同。(與小數(shù)點(diǎn)位置無關(guān))

例如:

0.235438×28.6×61.8911

≈0.2354×28.6×61.89

=414.6707116

三個(gè)參與運(yùn)算的數(shù)值的有效數(shù)字位數(shù)分別為六位、三位、六位,所以最終計(jì)算結(jié)果用三位有效數(shù)字表示,為415或4.15×102。

(3) 乘方和開方
乘方或開方時(shí),原數(shù)值有幾位有效數(shù)字,計(jì)算結(jié)果就可以保留幾位有效數(shù)字。若計(jì)算結(jié)果還要參與運(yùn)算,則乘方或開方所得結(jié)果可比原數(shù)值多保留一位有效數(shù)字。

例如:

3.582=12.8614,運(yùn)算結(jié)果保留三位有效數(shù)字,為12.9。

(4) 平均值

計(jì)算幾個(gè)數(shù)值的平均值時(shí),先將計(jì)算結(jié)果修約至比要求的位數(shù)多一位,再按數(shù)值修約規(guī)則處理。

(5) 方差和標(biāo)準(zhǔn)偏差

方差和標(biāo)準(zhǔn)偏差在運(yùn)算過程中對中間結(jié)果不做修約,只將最后結(jié)果修約至要求的位數(shù)。

注意:

① 在所有計(jì)算式中,常數(shù)(π、e等)以及非檢測所得的計(jì)算因子(倍數(shù)或分?jǐn)?shù)等)的有效數(shù)字位數(shù),可視為無限,需要幾位就取幾位。

② 使用計(jì)算器(或電腦)進(jìn)行計(jì)算時(shí),一般不對中間每一步驟的計(jì)算結(jié)果進(jìn)行修約,僅對最后的結(jié)果進(jìn)行修約,使其符合事先所確定的位數(shù)。

(6)自然數(shù)

在一些分析化學(xué)運(yùn)算中,有時(shí)會遇到一些倍數(shù)或分?jǐn)?shù)的關(guān)系。例如:水(H2O)的相對分子質(zhì)量=2×1.008+16.00=18.02

其中 “2”不能看做1位有效數(shù)字。因?yàn)樗鼈兪欠菧y量所得到的數(shù),是自然數(shù),其有效數(shù)字位數(shù),可視為無限的。

另外,常數(shù)π、圖片等的有效數(shù)字,可認(rèn)為是無限制,即在計(jì)算中可根據(jù)需要取適當(dāng)?shù)臄?shù)位。


文章(文字)來源:實(shí)驗(yàn)室GB檢測技術(shù) 
編輯:songjiajie2010

 
分享:
 

 
 
推薦圖文
推薦檢驗(yàn)技術(shù)
點(diǎn)擊排行
檢驗(yàn)技術(shù)
 
 
Processed in 0.020 second(s), 14 queries, Memory 0.92 M