原始記錄、報告上保留幾位有效數(shù)字
1
原始記錄的有效數(shù)字位數(shù)既不可少,也不可多,要根據(jù)儀器、儀表指示的最小分度值如實(shí)記錄,并允許增記一位估計(jì)數(shù)字。
例如,50 mL,滴定管的最小分度值為0.1 mL,又因?yàn)樵试S增加一位估計(jì)數(shù)字,可以記錄到兩位小數(shù),如12.34 mL。
這一量值表明十分位上的3是刻度指示值,確切可信;百分位上的4則是估計(jì)判讀的,是可疑數(shù)字,并知其波動范圍為0.02 mL,其相對誤差為(0.02/12.34)×100%=0.16%。若在原始記錄中僅記為12.3 mL,則表示可能產(chǎn)生1.6%的相對誤差。
由于原始記錄不合理致使數(shù)據(jù)的準(zhǔn)確度下降一個數(shù)量級。但也不可任意增加有效數(shù)字的位數(shù)。如果記成12.340則是明顯失真,因?yàn)椴豢赡芄烙?jì)出兩位數(shù)字。
公眾號ISO17025告訴大家一個方法,實(shí)驗(yàn)室通的儀器、儀表、計(jì)量器具最小分度(準(zhǔn)確到第幾位),可以用檢定規(guī)程,校準(zhǔn)規(guī)范,設(shè)備說明書等文件獲得。
2
報告結(jié)果有效數(shù)字位數(shù),小編提醒你可以有2種方法 (1)方法的標(biāo)準(zhǔn)差已知的情況
報告結(jié)果的有效數(shù)字取四分之一個標(biāo)準(zhǔn)差的首數(shù)所在數(shù)位,定為分析結(jié)果的尾數(shù)。例如:某一測定結(jié)果為25.352,標(biāo)準(zhǔn)差為1.4,四分之一標(biāo)準(zhǔn)差為0.35,其首位數(shù)字(0.35中的3)所在數(shù)位是十分位,即定為該結(jié)果的末位,可報為25.4
(2)方法的標(biāo)準(zhǔn)差未知的情況 這種遵守原始記錄的結(jié)果,并按照有效數(shù)字的運(yùn)算規(guī)則來確定。 有效數(shù)字運(yùn)算規(guī)則如下:
加減運(yùn)算: 最終計(jì)算結(jié)果中保留的小數(shù)位數(shù),與參加運(yùn)算的有效數(shù)字中小數(shù)位數(shù)最少者相同
乘除運(yùn)算: 運(yùn)算結(jié)果經(jīng)修約后,保留的有效數(shù)字位數(shù)應(yīng)與參加運(yùn)算的幾個有效數(shù)字中有效位數(shù)最少者相同。
對數(shù)運(yùn)算: 對數(shù)的有效數(shù)字位數(shù)應(yīng)和原數(shù)(真數(shù))的相同。
平方、立方、開方運(yùn)算: 計(jì)算結(jié)果的有效數(shù)字位數(shù)應(yīng)和原數(shù)的相同。
例如:某實(shí)驗(yàn)室要求測試密度。 原始記錄的結(jié)果為:質(zhì)量m=0.8044g,體積V=1.82ml
密度=m/v=0.8044/1.82=0.4419780219·······
這是一個乘除運(yùn)算,最終結(jié)果與參加運(yùn)算的幾個有效數(shù)字中有效位數(shù)最少者(1.82)相同
原始記錄有效數(shù)字
報告的有效數(shù)字
那么報告的最終結(jié)果應(yīng)該是:0.442g/ml。