分析實(shí)驗(yàn)中,為了得到準(zhǔn)確的分析結(jié)果,不僅要準(zhǔn)確進(jìn)行測(cè)量,而且還要正確記錄和計(jì)算。處理和計(jì)算出來的結(jié)果不僅要反映出測(cè)量的可信程度,也要反映出實(shí)驗(yàn)結(jié)果的真實(shí)性。本文是基于分析過程中測(cè)定數(shù)值的修約,希望能對(duì)小伙伴有所幫助。 01
有 效 數(shù) 字有效數(shù)字是分析中具有實(shí)際意義的測(cè)定數(shù)值。它是由直接讀取的準(zhǔn)確數(shù)字和通過估讀得到的可疑數(shù)字(最后一位)組成。
數(shù) 值 修 約 規(guī) 一般來說,分析工作者習(xí)慣采用“四舍五入”修約規(guī)則,不過在分析中逢五就進(jìn),必然會(huì)造成結(jié)果的系統(tǒng)偏高,誤差偏大,為了避免這樣的狀況出現(xiàn),盡量減少因修約而產(chǎn)生的誤差,一般采用四舍六入五留雙的修約規(guī)則:
運(yùn) 算 修 約 規(guī) 則04
試 驗(yàn) 過 程 中 數(shù) 值 記 錄1、稱量實(shí)驗(yàn)
數(shù)值修約的基礎(chǔ)知識(shí)1、什么是有效數(shù)字呢?
數(shù)值修約規(guī)則1、GB/T 8170-2008 《數(shù)值修約規(guī)則》
例如:3.2438中的“8”和0.130中的“0”。
有效數(shù)字的個(gè)數(shù)是有效位數(shù),對(duì)于不同類型的測(cè)定數(shù)值其有效位數(shù)為:02
03
“精密稱定”是指稱取重量應(yīng)準(zhǔn)確至所取重量的千分之一;
“稱定”是指稱取重量應(yīng)準(zhǔn)確至所取重量的百分之一,按照“精密稱定”項(xiàng)原則進(jìn)行修約;
“稱重”,“稱取”一般準(zhǔn)確到規(guī)定重量下一位;
取“約XX”時(shí),指取用量不超過規(guī)定量的(100±10)%;
取“XX”時(shí),參照修約規(guī)則。
2、量取試驗(yàn)
以刻度為依據(jù)可讀到最小刻度所在位并估讀最小刻度之間。
圖中“1”記錄為35.00cm,而不能記錄35cm,圖中“2”記錄為35.40cm,圖中“3”可記錄為35.75cm。
量取5ml的液體應(yīng)采用5-10ml的量筒;量取5.0ml的液體應(yīng)采用5-10ml的刻度管;量取5.00ml的液體應(yīng)采用5-10ml的移液管。
容量瓶的定容應(yīng)記錄為定容至100.00ml。
3、色譜實(shí)驗(yàn)
-
峰面積一般不做修約,按實(shí)際測(cè)定值進(jìn)行記錄,參與計(jì)算后按相關(guān)規(guī)定進(jìn)行修約。
-
拖尾因子、分離度可修約至小數(shù)點(diǎn)后兩位,理論塔板數(shù)一般修約至正整數(shù)。
-
保留時(shí)間不做修約。
-
工作站自動(dòng)生成數(shù)值也可不做修約。
-
化合物含量應(yīng)該比標(biāo)準(zhǔn)規(guī)定限度的有效位數(shù)多一位,根據(jù)實(shí)際情況以修約規(guī)則進(jìn)行修約。并且至少保留一位有效數(shù)字。
-
RSD按“只進(jìn)不舍”進(jìn)行修約。
-
色譜條件數(shù)值不得修約。
-
方法學(xué)驗(yàn)證項(xiàng)的數(shù)值應(yīng)該比標(biāo)準(zhǔn)規(guī)定限度的有效位數(shù)多一位,根據(jù)實(shí)際情況以修約規(guī)則進(jìn)行修約。并且至少保留一位有效數(shù)字。
4、其他實(shí)驗(yàn)
熔點(diǎn)、沸點(diǎn)等物理參數(shù)可修約至小數(shù)點(diǎn)后一位。
旋光率、折光率、原子吸收值可修約至小數(shù)點(diǎn)后三位。05
⑴有效數(shù)字是指在分析和測(cè)量中所能得到的有實(shí)際意義的數(shù)字。測(cè)量結(jié)果是由有效數(shù)字組成的(前后定位用的“0”除外)。
例如 測(cè)量結(jié)果1.1080g,組成數(shù)字1、1、0、8、0都是實(shí)際測(cè)讀到的,它們是表示試樣質(zhì)量大小的,因而都是有實(shí)際意義的。
⑵有效數(shù)字的前幾位都是準(zhǔn)確數(shù)字,只有最后一位是可疑數(shù)字。
例如前述的1.1080, 前幾位數(shù)字1、1、0、8都是稱量讀到的準(zhǔn)確數(shù)字,而最后一位數(shù)字0則是在沒有刻度的情況下估讀出來的,是不準(zhǔn)確的或者說可疑的。
⑶有效數(shù)字是處于表示測(cè)量結(jié)果的數(shù)值的不同數(shù)位上。所有有效數(shù)字所占有的數(shù)位個(gè)數(shù)稱為有效數(shù)字位數(shù)。
例如 數(shù)值3.5,有兩個(gè)有效數(shù)字,占有個(gè)位、十分位兩個(gè)數(shù)位,因而有效數(shù)字位數(shù)為兩位;3.501有四個(gè)有效數(shù)字,占有個(gè)位、十分位、百分位等四個(gè)數(shù)位,因而是四位有效數(shù)字。
⑷測(cè)量結(jié)果的數(shù)字,其有效位數(shù)反映了測(cè)量結(jié)果的精確度,它直接與測(cè)量的精密度有關(guān)。這也是有效數(shù)字實(shí)際意義的體現(xiàn),是非常重要的體現(xiàn)。
例如 前述例子中,若測(cè)量結(jié)果為1.1080g,則表示測(cè)量值的誤差在10-4量級(jí)上,天平的精度為萬(wàn)分之一;若測(cè)量結(jié)果為1.108g,則表示測(cè)量值的誤差在10-3量級(jí)上,天平的精度為千分之一。
2、有效數(shù)字位數(shù)的確定原則
在確定有效數(shù)字位數(shù)時(shí)應(yīng)遵循下列原則:
⑴數(shù)值中數(shù)字1~9都是有效數(shù)字。
⑵數(shù)字“0”在數(shù)值中所處的位置不同,起的作用也不同,可能是有效數(shù)字,也可能不是有效數(shù)字。判定如下:
① “0”在數(shù)字前,僅起定位作用,不是有效數(shù)字。
例如 0.0257中,“2”前面的兩個(gè)“0”均非有效數(shù)字。0.123、0.0123、0.00123中“1”前面的“0”也均非有效數(shù)字。
②數(shù)值末尾的“0”屬于有效數(shù)字。
例如 0.5000中, “5”后面的三個(gè)“0”均為有效數(shù)字;0.50中, “5”后面的一個(gè)“0”也是有效數(shù)字。
③數(shù)值中夾在數(shù)字中間的“0”是有效數(shù)字。
例如 數(shù)值1. 008中的兩個(gè)“0”是均是有效數(shù)字;數(shù)值8. 01中間的 “0”也是有效數(shù)字。
④以“0”結(jié)尾的正整數(shù),“0”是不是有效數(shù)字不確定,應(yīng)根據(jù)測(cè)試結(jié)果的準(zhǔn)確度確定。
例如 3600,后面的兩個(gè)“0”如果不指明測(cè)量準(zhǔn)確度就不能確定是不是有效數(shù)字。測(cè)量中遇到這種情況,最好根據(jù)實(shí)際測(cè)試結(jié)果的精確度確定有效數(shù)字的位數(shù),有效數(shù)字用小數(shù)表示,把“0”用10的乘方表示。如將3600寫成3.6×103表示此數(shù)有兩位有效數(shù)字;寫成3.60×103表示此數(shù)有三位有效數(shù)字;寫成3.600×103表示此數(shù)有四位有效數(shù)字。
3、修約間隔
修約間隔又稱修約區(qū)間或化整間隔,系確定修約保留位數(shù)的一種方式。修約間隔一般以k×10n(k=1,2,5;n為整數(shù))的形式表示,將同一k值的修約間隔,簡(jiǎn)稱為“k”間隔。
修約間隔的數(shù)值一經(jīng)確定,修約值即應(yīng)為該數(shù)值的整數(shù)倍。
例如 指定修約間隔為0.1,修約值即應(yīng)在0.1的整數(shù)倍中選取,相當(dāng)于將數(shù)值修約到一位小數(shù)。
-
1.0239修約到0.01,為1.02,
-
1.02÷0.01=102(倍)
4、修約數(shù)位及確定修約位數(shù)的表達(dá)方式
修約時(shí)擬將擬修約數(shù)的哪一位數(shù)位后部分按修約規(guī)則舍去,則該數(shù)位就是修約數(shù)位。
數(shù)值修約時(shí)需要先明確修約數(shù)位,確定修約位數(shù)的表達(dá)方式如下:
⑴指明具體的修約間隔。如指明將某數(shù)按0.2(2×10-1)修約間隔修約、100(1×102)修約間隔修約等。
⑵指定將擬修約數(shù)修約至某數(shù)位的0.1、0.2或0.5個(gè)單位。
⑶指明“k”按間隔將擬修約數(shù)修約為幾位有效數(shù)字,或修約至某數(shù)位。這時(shí)“1” 間隔可不必指明,但“2”間隔和“5”間隔必須指明。 06
⑴擬舍棄數(shù)字的最左一位數(shù)字小于5時(shí),則舍去,即保留的各位數(shù)字不變。
例如 將12.1498修約到一位小數(shù),得12.1。
例如 將12.1498修約成兩位有效位數(shù),得12。
⑵擬舍棄數(shù)字的最左一位數(shù)字大于5;或者是5,而其后跟有并非全部為0的數(shù)字時(shí),則進(jìn)一,即保留的末位數(shù)字加1。
例如 將1268修約到“百”數(shù)位,得13×102(特定時(shí)可寫為1300)。
例如 將1268修約成三位有效位數(shù),得127×10(特定時(shí)可寫為1270)。
例如 將10.502修約到個(gè)數(shù)位,得11。
注:“特定時(shí)”的涵義系指修約間隔或有效位數(shù)明確時(shí)。
⑶擬舍棄數(shù)字的最左一位數(shù)字為5,而右面無數(shù)字或皆為0時(shí),若所保留的末位數(shù)字為奇數(shù)(1,3,5,7,9)則進(jìn)一,為偶數(shù)(2,4,6,8,0)則舍棄。
⑷負(fù)數(shù)修約時(shí),先將它的絕對(duì)值按上述⑴⑵⑶規(guī)定進(jìn)行修約,然后在修約值前面加上負(fù)號(hào)。
⑸0.5單位修約與0.2單位修約
①0.5單位修約 既將擬修約數(shù)乘以2,按指定數(shù)位依3.1-3.4規(guī)則修約,所得數(shù)再除以2。
②0.2單位修約 既將擬修約數(shù)乘以5,按指定數(shù)位依3.1-3.4規(guī)則修約,所得數(shù)值再除以5。
2、通用數(shù)值修約方法
⑴如果為修約間隔整數(shù)倍的一系列數(shù)中,只有一個(gè)數(shù)最接近于擬修約數(shù),則該數(shù)就是修約數(shù)。
例如 將1.150001按0.1修約間隔進(jìn)行修約。此時(shí),與擬修約數(shù)1.150001鄰近的為修約間隔整數(shù)倍的數(shù)有1.1和1.2(分別為修約間隔的11倍和12倍),然而只有1.2最接近于擬修約數(shù),因此1.2就是修約數(shù)。
⑵如果為修約間隔整數(shù)培的一系列數(shù)中,有連續(xù)兩個(gè)數(shù)同等接近于擬修約數(shù),則這兩個(gè)數(shù)中,為修約間隔偶數(shù)培的數(shù)就是修約數(shù)。
例如,將1150按100修約間隔行修約。此時(shí),與擬修約數(shù)1150鄰近的為修約間隔整數(shù)倍的數(shù)有1100和1200(分別為修約間隔的11倍和12倍),這兩個(gè)數(shù)同等接近于擬修約數(shù),然而1200為修約間隔的偶數(shù)培(12倍),因此1200 就是修約數(shù)。
⑶一個(gè)數(shù)據(jù)的修約只能進(jìn)行一次,不能分次修約。