?

海洋剖面要素數據處理系統的設計與實現*

2015-09-29 03:21張麗婷張洪欣段康弘張小波劉婷婷
海洋開發與管理 2015年1期
關鍵詞:航次數據結構數據處理

張麗婷,張洪欣,段康弘,張小波,劉婷婷

(1.國家海洋局北海海洋技術保障中心 青島 266033;2.山東省海洋生態環境與防災減災重點實驗室 青島 266033)

1 引言

隨著海洋技術的發展和調查設備的進步與完善,海洋科學考察尤其是剖面連續觀測的數據種類和數量日益增加。調查所得為原始數據,并不能直接應用于科學研究,需要經過調查設備配套軟件預處理后再進行規范化處理存檔[1]。同時,海洋剖面要素數據具有較強的時效性,需要對數據本身包含的科學信息進行發掘和提取,并且需要不斷地應用于科學實踐中去,否則,無異于對于資源的極大浪費和對數據科學價值的忽視。與此同時,大量的數據處理過程極大地影響了海洋科考尤其是剖面調查的工作效率。因此,研究一種高效的海洋環境剖面要素數據平臺,對國家海洋調查數據及時有效利用具有重要的現實意義。

本研究以Oracle數據庫為基礎數據庫,在Visual Studio開發工具的支持下綜合運用WPF技術構建C/S架構模式的海洋剖面要素數據處理平臺[2]。一方面針對海洋調查中CTD(Conductivity Temperature Depth)[3]、LADCP(Lowered Acoustic Doppler Current Profiler)[4]、ADCP(Acoustic Doppler Current Profilers)[5]、自動氣象站等調查設備獲取的海洋環境剖面要素數據[6]進行綜合處理;另一方面,結合海洋調查相應規范標準對處理數據進行質量控制[7]。

2 海洋剖面要素數據分類及數據結構設計

對于海洋剖面數據處理過程來說,需要統籌考慮包括調查數據、航次信息數據、站點信息數據等多種來源多種結構的要素數據。因此,在統籌處理海洋剖面要素數據前,需要根據數據的類型和用途,對各種數據進行分類,并結合質量控制體系規定規范相應數據結構,以便數據庫管理和數據后續處理需要。

2.1 航次信息數據

航次信息數據是海洋調查過程中的共享數據信息,包括航次號、調查機構、調查船名等。航次信息數據以航次信息表的形式進行存儲和使用,航次信息表的數據結構如表1所示。

表1 航次信息表數據結構

2.2 站點信息數據

海洋剖面觀測過程中依據剖面特點設置多個調查站點,針對每個站點包含物理海洋調查、生物拖網、高空氣象等多種觀測項目,因此,站點信息數據主要包括站位號、作業時區以及作業項目等。站點信息數據以站位信息表的形式進行存儲和使用,站位信息表的數據結構如表2所示。

表2 站位信息表數據結構

2.3 調查數據

海洋剖面調查數據通常以特定格式的文件存在,屬于非結構化數據類型,因此,在處理過程中通過文件索引形式對已有調查數據文件進行讀取和處理,調查數據索引表數據結構如表3所示。

表3 調查數據索引表數據結構

3 系統框架設計

3.1 數據處理框架設計

處理平臺軟件在處理完成原始數據口,通過ADO(activeX data object)接口訪問Oracle數據庫,完成對已經分類的航次信息表、站點信息表和環境參數數據的分類存儲和管理,從而完成對整個海洋剖面要素原始數據的獲取和預處理過程,并在處理完成后提供對處理數據的檢索和二次利用支持。數據處理框架如圖1所示。

圖1 數據處理框架

3.2 處理平臺架構設計

海洋剖面要素數據處理平臺的架構如圖2所示。

圖2 處理平臺架構圖

(1)平臺為海洋剖面要素處理提供圖形化的應用程序界面,同時與Oracle數據庫互聯,根據用戶需求命令獲取并處理船載儀器設備的資料數據,并將獲取后的數據按照相應分類和數據格式傳送至數據庫,以備后續使用和進一步處理。

(2)平臺的內核主要包括兩個功能模塊:命令解析模塊和數據重組模塊。兩個模塊的功能機組成如下:①命令解析模塊。命令解析模塊根據用戶需求命令,解析用戶所需的數據類型并確定數據來源,之后根據不同廠商的儀器設備數據命令格式生成相應的查詢命令,并發送至相應的儀器設備。②數據重組模塊。數據重組模塊通過數據通信接口接收設備數據,并針對相應數據格式進行有效性檢測,檢測通過后提取數據當中的有效字段并重組,將重組后的數據進行校驗后發送至應用程序接口。

(3)平臺數據通信接口建立在船舶網絡之上,主要參照RS-232接口和RJ-45接口通信標準。按應用邏輯分為命令接口和數據接口,分別完成對于數據查詢命令發送和源數據接收的功能。

3.3 應用效果

本平臺已試驗性應用于常規深遠海調查和船舶保障中,主要優勢表現在以下幾個方面。

(1)實時性。得益于網絡傳輸和串口傳輸速度的保障以及船載集控處理系統硬件水平的提高,該平臺在數據存儲和預處理上具有較好的實時性,以一次CTD下放過程為例(水深約500m),可以保證在無人值守情況下,在CTD回收出水前完成對應船舶信息數據的處理,同時在單操作員情況下,能夠在5min內完成全部數據的處理和存儲,基本可滿足海洋剖面處理尤其是站點密集航次對于數據預處理的需要。

(2)有效性好。通過對原始數據的有效性檢驗和重組數據發送前校驗,很好地保障了最終存儲數據的質量,從而提高了整體海洋剖面要素數據的質量,具有較好的有效性。

(3)節約人力資源。海洋調查尤其是深遠海調查過程中,調查隊員通常要在多個崗位上進行工作,本研究提及的處理平臺具有較高的自動化程度和較好的自檢自糾能力,因此能夠在一定程度上節約人力資源,保障整個調查過程的順利進行。

4 總結與展望

結合海洋剖面調查數據特點和現階段剖面數據處理相關技術,提出了一種海洋剖面要素數據處理平臺的設計方法。在設計過程中,貫徹模塊化和功能化思想:將命令處理與數據處理模塊化、用戶界面與處理內核分層化。使系統具有結構清晰、易維護、易擴展和易重用等優點,取得了較好的試驗應用效果。

此外,隨著船舶信息系統的發展和移動終端種類的增多,如何采用推送方式向航次科考隊員提供數據和檢索服務已經逐漸吸引了海洋研究者和計算機學家的重視,同時,也為網絡化海洋剖面要素數據處理平臺的進一步發展提供了方向。

[1]于慧彬,齊鵬,梁捷,等.內存映射文件在大數據量海洋調查數據處理中的應用[J].海洋技術,2010(1):37-40.

[2]趙毅,朱鵬,遲學斌,等.淺析高性能計算應用的需求與發展[J].計算機研究與發展,2007(10):13-22.

[3]陳淼,李占橋,袁延茂,等.海鳥系列CTD數據預處理分析[J].海洋測繪,2004(16):62-64.

[4]熊學軍,郭炳火,胡筱敏.LADCP觀測和資料后處理的關鍵技術[J].海洋技術,2002(4):32-36.

[5]段文義,張堅樑.河口、淺海 ADCP定點海流觀測資料的比較與整理[J].浙江水利科技,2006(5):18-21.

[6]蔡樹群,張文靜,王盛安.海洋環境觀測技術研究進展[J].熱帶海洋學報,2007(3):78-83.

[7]韓春花,耿姍姍,楊錦坤.海洋綜合調查數據集成管理方法研究:以廣東省近海海洋綜合調查與評價數據集集成為例[J].海洋開發與管理,2013,30(3):29-32.

猜你喜歡
航次數據結構數據處理
認知診斷缺失數據處理方法的比較:零替換、多重插補與極大似然估計法*
ILWT-EEMD數據處理的ELM滾動軸承故障診斷
數據結構線上線下混合教學模式探討
“翻轉課堂”教學模式的探討——以《數據結構》課程教學為例
高職高專數據結構教學改革探討
基于希爾伯特- 黃變換的去噪法在外測數據處理中的應用
CDIO模式在民辦院校數據結構課程實踐教學中的應用
Matlab在密立根油滴實驗數據處理中的應用
我國集裝箱航運企業實施作業成本管理法面臨的困難及解決方案
91香蕉高清国产线观看免费-97夜夜澡人人爽人人喊a-99久久久无码国产精品9-国产亚洲日韩欧美综合