有效數字修約
1.有效數字、小數點保留位數、計量單位、精度、準確度的聯系與區別
有效數字反映了計量器具的精度,由其最小分度值所決定,是客觀的;小數點保留位數受到人為因素和計量器具的影響,帶有主觀性;計量單位改變可以改變小數點后保留位數,卻不能改變有效數字位數。儀器準確度等級反映了儀器測量的不確定度,因此,儀器直接測量值的有效數字位數只與計量器具的最小分度值有關,而與其準確度等級(A級、B級)無關。
2.理論真值(原子價)、約定真值(單位、分子量、摩爾質量等)、相對真值(化學試劑的純度、計量器具的準確度、污染物排放限制等)、單標線容器和量器(單標線吸管、容量瓶等)、π等的有效數字都是無限的。
3.原始記錄有效數字保留位數:
3.1用空氣流量校準器校準流量時,二氧化硫、甲醛、氨等采樣器流量記錄至小數點后兩位,單位:L/min。
在現場采樣記錄中,氣溫記錄到小數點后一位,單位:℃;
氣壓記錄到小數點后一位,單位:kPa;
濕度記錄到整數,單位:%;
WBGT指數測定結果應取整數位;
噪聲測定多用精密聲級計,其固有誤差為 ±0.7 dB , 故測定結果最多只能保留一位小數;
風速記錄到小數點后一位,單位:m/s;
采樣流量記錄同校準流量一致,單位:L/min;
采樣時間到整數,單位:min;
采樣體積及換算標態體積記錄到小數點后一位,二氧化硫、甲醛、氨等,單位:L;PM10等,單位:m3。
PM10(重量法)稱重記錄到小數點后四位,單位:g。
分光光度法測定吸光度值記錄到小數點后三位。
3.2校準曲線回歸處理與有效數字
用具有回歸統計功能的計算器進行計算時,把原始數據輸入則可直接顯示r、a、b,從而求得一元回歸方程:
y=ax+b 。回歸時應扣除空白值。不扣除空白值,直接回歸的曲線,可用來計算空白值的濃度。
r取小數點后全部9(但最多取小數點后四位)與第一位非9的修約數字。
a的有效數字位數,應與自變量x的有效數字位數相等,或最多比x多保留一位。b的最后一位數,則和因變量y的最后一位數取齊,或最多比y 多一位。校準曲線的斜率和截距有時小數點后位數很多,最多保留 3 位有效數字,并以冪表示,如 0.0000234→2.34×10-5。
4.監測數據的數字修約及計算規則
4.1數字修約
數字修約按國家標準GB 8170 《數字修約規則》的規定進行。
4 舍 6入 5 看右,5 后有數進上去,尾數為 0 向左看,左數奇進偶舍棄。
4.2計算規則
在根據正確記錄的原始數據進行數據處理時,有效數字的處理方法需按以下原則進行:
◆加減運算時,得數經修約后,小數點后有效數字的位數應和參加運算的數中小數點后面有效數字位數最少者相同。
◆乘除運算時,得數經修約后,其有效數字位數應和參加運算的數中有效數字位數最少者相同。
◆對數計算時,對數的有效數字是由其小數點后位數確定的。(所取對數的小數點后的位數(不包括首數)應與其數的有效數字位數相同)
◆進行平方、立方或開方運算時,計算結果有效數字的位數和原數相同。
◆計算中,常數π、e和 、1/3等有效數字位數是無限的,根據需要取有效數字的位數。
◆來自一個正態總體的一組數據(多于4個),其平均值的有效數字位數可比原數增加一位。
◆表示分析結果精密度的數據一般只取一位有效數字,只有當測定次數很多時才能取兩位,且最多只能取兩位。
◆分析結果有效數字所能達到的位數不能超過方法最低檢出濃度的有效數字所能達到的位數。
◆在實際加減乘除等計算中,可先將各近似值修約到比有效數字位數最少者多保留1位有效數字,再將計算結果按上述規則處理。
◆在一系列操作中,使用多種計量儀器時,有效數字以最少的一種計量儀器的位數表示。
5.當最小分度值為次小分度值的0.1或0.2單位時,即最小刻度是0.1或0.2時,讀數的有效數字位數達到最小分度的后一位;當最小分度值為次小分度值的0.5單位時,即最小刻度為0.5時,讀數的有效數字位數只到最小刻度。
6.從采樣到最后結果報告,有效數字保留的實例分析
采樣 樣品分析 結果報告 根據儀器的測量精度(最小分度值)確定有效數字位數(流量),在記錄時不能修約;有需要通過計算得到的參數(標態體積),按近似計算規則的要求將原始數據修約,可以比指定的修約位數多一位或幾位有效數字;確定修約位數后一次完成,不能連續修約。 對于滴定法,標準參考溶液多為中間值(用來配置標準標定溶液),可以比分析方法中計量器具(多為滴定管)的有效數字多一位;標準標定溶液則原則上保留4位(根據滴定管確定,注意確保消耗的標準標定溶液體積);其他的標準溶液則直接根據稱量器具確定有效數字;儀器分析直接出結果的要根據儀器檢測限確定有效數字位數。 標準上有明確規定的最終結果要與標準一致。計算結果根據修約規則來保留有效數字,報告中有效數字位數不能超過其參加計算的參數的有效數字位數。不得在運算過程中出現連續修約。
氣相色譜檢測大氣中污染物的數據處理(實例):
采樣:流量0.50L/min(最小量綱0.1L,因此保留到小數點后兩位),采樣時間保留整數15min
采樣體積(2位有效數字)= 流量*時間
校正后的標態采樣體積(可以暫時比采樣體積多保留一個有效數字)=采樣體積*校正系數
解吸:解吸到100ml大注射器中(保留3個有效數字)
標準曲線濃度:取1.0μl的苯液,注入100 ml大注射器中,濃度為2個有效數字
最后通過進樣計算濃度:根據近似數運算規則,按有效數字最少的值來保留有效數字(兩位)
C = ( A ×CS ) / ( AS ×V0) ×D ×100