全站儀氣象改正公式優化研究

劉曉東, 繆東晶, 姚 燕, 王長云, 王德利,李連福, 劉 洋, 蔡晉輝, 李建雙

(1.中國計量大學 計量測試工程學院，浙江 杭州 310000； 2.中國計量科學研究院，北京 100029； 3.濰坊市計量測試所，山東 濰坊 261061)

1 引 言

為了滿足各類大型工程使用設備的檢定需求,我國計量檢測部門已建成近百條基線[1～4]。中國計量科學研究院(NIM)的昌平1.2 km標準基線于2007年建成,如圖1所示,圖中W、C、H、P和T分別代表連接至數據采集節點的風速傳感器、CO2傳感器、濕度傳感器、氣壓傳感器和溫度傳感器。其中環境參數測量系統可以實時監測基線沿線溫度、氣壓、濕度、二氧化碳以及風速等環境參數變化情況[5,6]。2014年,在黑龍江省某縣建立了一條超過5 km的標準基線,用于低溫條件下測距儀檢測校準和實驗研究。

圖1 昌平基線場示意圖Fig.1 Diagram of Changping base line field

國外,芬蘭大地測量研究所的奴米拉(Nummela)標準基線于1933年建立,最長的864 m基線段進行過15次光干涉測量,最長邊基線值最大互差僅為0.61 mm。德國聯邦物理技術研究院(PTB)為了實現更高精度的空氣折射率修正,對其600 m標準基線建立野外環境參數在線測量系統,對包括溫度、濕度、氣壓在內的3種環境參數共計68個傳感器進行30 s每周期的不間斷采集[7]。

在使用野外基線場對全站儀進行測距時,為了消除環境參數對測距的影響,通常會使用氣象改正公式得出的空氣折射率補償系數對測得的原始距離進行補償,從而得到實際測量距離。因而在測距補償時,測距精度受環境參數的準確性和氣象改正公式的正確性影響。在長期的測量與觀察中,補償后測距值仍存在較大幅度的波動,且與參考值會存在一定偏差無法被消除,此偏差與計算氣象修正公式所需的溫度、氣壓、濕度數據均有較強的相關性。

理論上,氣象改正公式的修正會使環境參數與測距修正值的相關性顯著降低,而上述長期測量結果表明實際情況與理論并不完全相符。因此,有必要對氣象改正公式進行系統分析和實驗研究,從而進一步減小全站儀的測量誤差。

2 氣象改正公式優化模型

2.1 氣象改正公式誤差分析

使用全站儀進行長距離測距時,溫度、濕度和氣壓等環境參數對激光測距精度有著巨大影響,因此在實際使用時需要對空氣折射率進行補償。在實際進行長距離測距作業時,通常采用氣象改正公式計算出空氣折射率n,然后通過下面公式計算出測距修正值Li:

Li=Li0×n

式中:Li0為原始測距值;i為測量次數。

在1963年國際大地測量協會(International Union of Geodesy and Geophysics,IUGG)第十三次會議的決議中,解析了用于計算電磁距離測量折射率的標準公式[8,9]:

1) 對于未調制的單色光,或者采用Edlen公式:

(1)

或者采用Barrell-Sears公式:

(2)

關聯至環境條件

(3)

2) 用于調制光

nL的公式如上所述,但用對應于適當群速度的折射率ng代替n,計算如下:

(4)

式中:n為常溫常壓下含有0.03%CO2的干燥空氣的折射率;ng為空氣對調制光的有效折射率;nL為光在環境空氣中的有效折射率;σ為輻射的有效波數,單位為μm-1;λ為輻射的有效波長,單位為μm;t,T分別為以攝氏度和開爾文為單位的溫度;P為大氣壓力,IUGG給出單位為mmHg;α為空氣膨脹系數,α為0.003 661;e為部分水蒸氣壓力,IUGG給出公式中單位為mmHg。

本次實驗使用的是全站儀,其調制光波長是λ=850 nm,因此計算調制光折射率應使用式(4)代入式(3),其中由式(2)得出式(5)和式(6):

(5)

(6)

從而得到:

=1+294.50×10-6

(7)

因此,式(3)可寫為

(8)

由于mmHg與hPa的換算關系為

1 mmHg=1.333 22 hPa≈4/3 hPa

(9)

因此式(8)可以改寫為:

(10)

氣象改正公式為

ΔD=(n0-n)×D

(11)

式中:n0為徠卡全站儀的標準氣象條件時的基準折射率,一般定為干溫t=12 ℃、大氣壓P=1 013.25 hPa、相對濕度h=60%,則n0=1+281.8×10-6。因此,式(11)可以改寫成:

(12)

式(12)中e為部分水蒸氣壓力,根據軍用電磁波測距規范(GJB 614-88),其計算公式為[10,11]:

溫度在-10 ℃～+50 ℃濕球未結冰,

e=e′-0.000 662(t-t′)(1+0.001 146t′)P

e′=6.107×10α

(13)

飽和水汽壓E和相對濕度h的計算:

(14)

因此,最終的空氣折射率對測距影響的氣象改正公式為

(15)

隨著激光測距技術的發展,IUGG在1963年所提出的氣象改正經驗公式已不能滿足技術進步后對于激光測距精度的要求,于是在1999年第22屆IUGG大會中提出對氣象改正公式的系數進行修改[12,13]。決議中將群折射率計算公式中系數修正為

(16)

因此,經過IUGG在1999年進行修正后的空氣折射率對測距影響的氣象改正公式為

(17)

而1999年的氣象改正公式距今也已24年,同樣存在不能滿足現今激光測距精度的要求的可能。因此該公式目前的使用場景與精度要求,確實有被進行進一步優化的空間,應當針對當前需求對氣象改正公式做進一步優化。

對公式進行推導時發現,現行測距公式系數保留了5位有效數字, 而系數保留有效數字位數對測量結果有顯著影響,為了量化該影響,給定不同的測距值,分別計算保留5位和6位有效數字的空氣折射率補償結果,求得兩者的測量偏差響見圖2。

圖2 系數舍入對測距誤差的影響Fig.2 The influence of coefficient rounding on distance measurement error

從圖2中可以看出,隨著測量距離不斷增加,系數舍入引起的誤差呈線性增長,在1.2 km時由于舍入誤差導致的測距誤差已經達到了0.3 mm。而由圖3可知現行氣象改正公式對全站儀的測距值進行修正后還存在2～2.5 mm左右的殘余誤差,舍入誤差則在其中占比超過10%,已經不容忽視,因此對氣象改正公式優化是有必要的。

圖3 現行公式測距殘余誤差曲線Fig.3 Current formula range residual error curve

2.2 優化目標函數的構造

對于氣象改正公式系數的優化本質上是對公式測距殘余誤差的降低,使得殘余誤差帶最小。設通過氣象改正公式所得出的空氣折射率補償系數為n,基線場參考值為L,某測量時刻全站儀測距原始值為Li0。全站儀測距殘余誤差為

ΔLi=Li0×n-L

(18)

如果氣象改正公式完全消除了當前環境參數對測距的影響,全站儀測距殘余誤差應當趨近于0,即對氣象改正公式的系數進行優化使殘余誤差之和∑ΔLi最小,因此將氣象公式系數調整轉化為對殘余誤差之和∑ΔLi的優化問題。

將式(15)中常數項系數設為待優化系數,則待優化的氣象改正公式為

(19)

將式(16)、(17)代入優化目標min∑ΔLi,即得到優化函數:

(20)

分析式(20)中各系數對空氣折射率的影響,發現系數a、b、d和g對空氣折射率系數的影響是線性的,而系數c、e和f均不具有線性相關性但是與溫度具有一定相關性,因此稱a、b、d和g為線性項系數,稱c、e和f為溫度項系數,將在第3節中將依次進行線性項系數優化、溫度項系數優化以及全部系數優化等3組實驗。

3 系數優化實驗

3.1 實驗條件

為了滿足長距離測距時對環境參數數據實時性和準確性的需求,設計了基于5G的環境參數采集系統為測距實驗提供數據。環境參數采集系統所采用傳感器精度較高,其中溫度傳感器在-20 ℃～40 ℃之間,測量不確定度均為0.01 ℃,k=2;氣壓傳感器在500～1 100 hPa之間,測量不確定度均為0.07 hPa,k=2;濕度傳感器在0%RH～90%RH范圍內,測量不確定度均為1%RH,k=2;在90%RH～100%RH范圍內,測量不確定度均為1.7%RH,k=2?；€場環境參數采集系統控制溫度,濕度,氣壓等傳感器進行參數的讀取,整體數據采集周期為6 s,每天可采集一百萬組以上的數據。環境參數采集系統的傳輸方案如圖4所示。

圖4 控溫箱傳感器采集與傳輸方案框圖Fig.4 Temperature control box sensor acquisition and transmission scheme block diagram

3.2 系數優化實驗

實驗測量依托于NIM昌平野外長度標準場,其測距墩的參考值由μ-base精密測距儀測得,其測距在160 m的測量范圍內測距精度優于10 μm,在使用μ-base測距儀對基線長度進行測定后,可以認為其測得值可以作為基線場測距墩的長度參考值[14～16]。

在實驗中,將全站儀架設至基線場JX0點對JX8點進行不間斷測距,測量頻率為1 次/min,在測距的同時讀取當前環境參數并與測距數據統一保存,當測距時長達到24 h時提取測量數據。數據分析流程如圖5所示。本實驗對數據清洗處理后得到12 d完整數據,其中較具有代表性的日期有2023年中04-28、05-01、05-20、05-21和05-24數據。

圖5 數據分析流程Fig.5 Data analysis process

3.2.1 線性項系數優化結果

通過表1可以看到待定系數a、b、d、g中,d在優化前后出現了數量級上的變化,其余系數與原有系數均只存在原數據1%左右的偏差;而且從圖6中可知,系數優化后的公式與環境參數仍有較大的相關性,其大部分相關系數均維持在0.5以上;由圖7和圖8可知,全站儀測距值經過修正的殘余誤差均有大幅度的下降,使用貝塞爾公式計算殘余誤差值的標準偏差,從標準偏差的優化幅度可以看出,數據較原有數據更為平穩。

表1 解得線性項系數Tab.1 The coefficients of linear terms are solved

圖6 線性項優化前后相關系數Fig.6 Correlation coefficient before and after linear term optimization

圖7 線性項優化前后殘余誤差與優化幅度Fig.7 Residual error before and after linear term optimization

圖8 線性項測距誤差趨勢Fig.8 Linear term ranging error trend

3.2.2 溫度項系數優化結果

嘗試對溫度項系數進行擬合優化以得出優化后對測距殘余誤差的影響。僅對溫度項進行系數優化時,各優化后系數如表2所示,除待定系數c以外其余系數均有較大的變化,但是由于c在公式中含義為空氣膨脹系數,這表明僅對溫度項系數進行求解以對公式進行修正效果并不顯著;圖9表明僅對溫度項系數進行優化時環境參數對測距誤差的相關性并沒有顯著降低;同時,由圖10和圖11可知僅優化氣象改正公式的溫度項系數對氣象改正公式的優化并不顯著。

表2 解得溫度項系數Tab.2 The integral temperature coefficient is obtained

圖9 溫度項優化前后相關系數Fig.9 Coefficient of correlation before and after temperature optimization

圖10 溫度項優化前后殘余誤差與優化幅度Fig.10 Residual error and after temperature optimization

圖11 溫度項測距誤差趨勢Fig.11 Temperature term ranging error trend

3.2.3 全部系數優化結果

根據對線性項系數和對溫度項系數優化的結果可以得出:對部分系系數的優化只能使測距誤差得到部分有效優化結論。因此,對所有待定系數進行優化,各系數的優化后值如表3所示,其值相較于原始值僅在一定范圍內進行變化,與預期相符。

表3 解得全部系數Tab.3 All undetermined coefficient is obtained

對氣象改正公式全部系數項進行修正時,環境參數與測距誤差之間的相關系數如圖12所示,可以看出環境參數與測距誤差之間的相關性大幅下降,這表明此種優化方式是具有一定效果的;且全系數項修正前后的測距誤差與趨勢如圖13和圖14所示,殘余誤差的各項指標均呈現出優化的情況,誤差均值降低至0.1 mm附近,而且峰谷值從1.2 mm降低至0.5 mm,優化幅度達76.8%以上,標準偏差也從0.5 mm降低至0.1 mm,優化了81.2%。這標志著經過全部系數項優化后殘余誤差在移動至標準值附近的同時,其波動情況也表現得更加平穩,表明該方法有效的降低了全站儀的測距殘余誤差,對氣象改正公式進行了有效優化。

圖12 全部系數項優化前后相關系數Fig.12 Correlation coefficient before and after optimization of all coefficient terms

圖13 全部系數項優化前后殘余誤差Fig.13 Residual error before and after optimization of all coefficient terms

圖14 全部系數項測距誤差趨勢Fig.14 Range error trend of all coefficient terms

因此,在對氣象改正公式進行全部系數項的優化后,全站儀在長度測量上得到了更加精準的補償。

在通過3組實驗對比后發現:在僅對線性項系數和僅對溫度項系數進行優化時,優化效果不完全符合期望;而針對全部系數進行優化后所有測試數據均體現出不同幅度的優化情況,符合優化預期。因此,氣象改正公式進行全部系數優化效果是顯著的,接下來應當驗證該方法的泛用性,檢驗其是否能夠通過一段時間內的數據解得優化公式對另外一段時間的測量數據進行有效的優化。

4 優化結果驗證

在發現全部系數的優化結果遠優于僅進行線性項優化和溫度項優化的結果后,對該優化方法的泛用性進行研究,將所有采集到的測距數據中的一部分用來解出優化公式系數,然后用該系數對另一部分測量數據進行修正作為驗證。

4.1 1 200 m測距驗證

首先在長距離測量中進行數據驗證,使用從2023-05-01至2023-05-24數據長距離測距數據對公式進行優化,得到系數后代入公式對全體數據進行驗證。結果如圖15、圖16和圖17所示。

圖15 長距離驗證相關系數Fig.15 Long distance verification of correlation coefficients

圖16 長距離測距優化前后殘余誤差與優化幅度Fig.16 Residual error and optimization amplitude before and after long distance optimization

圖17 長距離驗證測距誤差趨勢Fig.17 Trend of distance error for long distance verification

在使用長距離測量數據對氣象改正公式優化效果進行驗證,大部分數據均能保持相當的優化效果,從圖15和圖16來看,優化組所得出的優化公式同樣適用與驗證組,該公式在對驗證組數據的優化中仍舊保持了相對優良的優化效果,而且從圖17中可以明確看出:公式優化的殘余誤差的均值仍被降低至參考值周圍,且相較于原始測距值的波動情況有大幅的下降,變得更為平滑,總體優化幅度達到37%以上,較為符合對氣象改正公式進行優化的預期。

4.2 600 m測距驗證

為了保證優化公式在全距離同樣適用,因此將優化后公式對基線場中段約600 m處的測距數據進行補償并與參考值進行比對,殘余誤差的均值大幅降低至參考值附近,且標準偏差也有不同程度的優化。由此可以得出結論,通過數據擬合的方式對氣象改正公式進行優化可以在一定程度上減小全站儀測距殘余誤差。

4.3 優化公式泛用性驗證

在驗證同一全站儀的長距離和短距離優化測距性能符合預期后,使用另一廠家不同型號全站儀(稱儀器B)進行相同條件測距驗證。驗證采用日期為2023年中07-28、08-02、08-03、08-05和08-06的數據,對其本身進行優化后相關系數與殘余誤差優化幅度如圖18和圖19所示。

圖18 儀器B系數優化前后相關系數Fig.18 Correlation coefficient before and after optimization of device B

圖19 儀器B殘余誤差與優化幅度Fig.19 Residual error and optimization amplitude of instrument B

使用該優化方法對氣象改正公式進行優化后可以得到較為優良的優化效果,其優化幅度與預期也符合預期,其優化后的殘余誤差也平移至參考值附近,如圖20所示。

圖20 儀器B測距誤差趨勢Fig.20 Trend of distance measurement error of instrument B

在使用優化組得到的氣象改正公式優化系數對儀器b所采集到的數據進行優化時,對于誤差均值的優化仍能達到60.8%以上,對誤差標準偏差的優化也能達到60%,符合對優化公式泛用性驗證的預期。

5 結 論

本文首先通過全站儀在野外基線場進行7×24 h不間斷測距進行數據采集;然后,建立氣象改正公式優化模型,對比不同的優化組合對測距殘余誤差的影響。結果表明,在符合優化預期的情況下總體3項優化幅度分別為:誤差峰谷值可達76.8%;誤差均值可達99.8%;誤差標準偏差可達81.2%。因此使用數據擬合的方法對全部系數的氣象改正經驗公式進行優化是一種極具潛力的方法,使得全站儀在長距離測距中降低測距誤差,提高測距精度。在后續的研究中可以借助機器學習在數據處理以及模型構筑方面的優勢,對氣象改正公式的優化進行更進一步的探索。