深度學習在實測沉降數據預處理中的應用研究

胡安峰 李唐 陳緣 葛紅斌 李怡君

摘? ?要：基于深度學習中的長短期記憶網絡LSTM，通過搭建Seq2Seq模型，提出了可對實測沉降數據進行預處理的新方法. Seq2Seq可通過觀測大量有效的測點數據來自動學習沉降發展規律，并在訓練完成后能對異常測點沉降進行重新計算，可有效避免異常數據對后續沉降預測的干擾. 以某機場多個區域的實測沉降數據為背景，通過將Seq2Seq模型重計算出的沉降值與實測值對比，驗證了該模型的可靠性. 結合超參數與數據集等參數分析，研究了提升模型學習能力的影響因素. 研究結果表明：在訓練集選取40個測點、測試集選取15個的條件下，模型重計算值與實測值全過程平均誤差3 cm. 增大訓練集與數據特征，且減小訓練集與測試集之間的偏差時，模型的精度提升明顯，誤差縮小到2 cm.

關鍵詞：長短期記憶網絡;深度學習;序列到序列模型;沉降預測;沉降數據預處理

中圖分類號：U443.15? ? ? ? ? ? ? ? ? ? ? ? ? ? ?文獻標志碼：A

Deep Learning for Preprocessing of Measured Settlement Data

HU Anfeng1，2，LI Tang1，3，CHEN Yuan1，GE Hongbin4，LI Yijun1

（1. Research Center of Coastal and Urban Geotechnical Engineering，Zhejiang University，Hangzhou 310058，China;

2. Center for Balance Architecture，Zhejiang University，Hangzhou 310058，China;

3. Architectural Design and Research Institute of Zhejiang University Co Ltd，Hangzhou 310058，China;

4. Xiamen Iport Go Ltd，Xiamen 361012，China ）

Abstract：Based on Long Short Term Memory （LSTM） in deep learning，a new method for preprocessing the measured settlement data is proposed by building a Seq2Seq model. Seq2Seq can automatically learn the law of settlement development by observing a large number of effective measuring point data，and can recalculate the settlement of abnormal measuring points after training is completed，which can effectively avoid the interference of abnormal data on the subsequent settlement prediction. Taking the actual measured settlement data in multiple areas of an airport as the background，the reliability of the model was verified by comparing the calculated settlement value of the Seq2Seq model with the measured values. Combined with parametric analysis such as hyperparameters and data sets，the influencing factors on improving model learning ability are studied. The research results show that，under the condition that the training set selects 40 measurement points and the test set selects 15，the average error of the model recalculated value and the measured value in the whole process is 3 cm. When the training set and data features are increased and the deviation between the training set and the test set is reduced，the accuracy of the model is significantly improved and the error is reduced to 2 cm.

Key words：Long Short Term Memory（LSTM）;deep learning;Seq2Seq model;settlement prediction;preprocessing for measured settlement data

作為巖土工程的經典問題，預測地基的沉降過程是尚未完全解決的難題. 傳統預測沉降的方法一般有三種：一是利用沉降的理論計算法，如各類分層總和法與固結理論[1-4]，但由于難以獲取原狀土參數以及施工現場的復雜性，計算出的結果往往和實際有一定差距. 二是有限元建模等數值方法[5-9]，除上述原狀土體參數問題外，有限元法還存在模型參數選取偏經驗化，迭代過程復雜耗時，易出現奇異點等多種問題，計算出的結果和實測值相比也不夠準確. 與上述兩種方法相比，第三種的曲線擬合法通過實測數據來推算沉降量與時間的對應關系，能更真實地反映地基的沉降規律[10]. 應用廣泛的有指數曲線法[11]、雙曲線法[12]、泊松法[13]和Asaoka法[14]等. 曲線擬合法是通過在實測曲線上采點來擬合曲線，從而預測后續的沉降. 為保證后續沉降預測順利進行，實測數據的準確度就變得至關重要. 但在實際工程中，現場實測沉降數據常常存在諸多問題.

對于在建的大型地基處理項目，測點通常在千位數量級，由于人工誤差、儀器誤差等影響，一般很難保證所有測點數據都準確無誤. 為避免異常數據對后續沉降預測的干擾，在使用曲線擬合法或其他預測方法之前，存在對實測沉降數據進行遴選及預處理的需求.

深度學習是近年來進行數據處理的高效方法，在沉降預測等巖土領域中的應用也較多[15-24]，但迄今為止，尚無文獻研究過使用深度學習對沉降數據進行預處理. 本文結合以上研究，提出了一種利用深度學習作為沉降數據預處理的新方法. 由于深度學習是通過搭建神經網絡來觀察數據并發現其內在關聯，因此對于數據的處理能力要明顯優于其他方法[25-27]. 其中，長短期記憶網絡LSTM[28-31]尤其擅長處理時間序列，這種帶有記憶功能的神經網絡，能自動地觀察符合沉降發展規律的測點數據，學習良好的實測曲線具有的模式，然后將學到的映射關系應用到問題測點來重新計算全過程沉降值.

由于深度學習一般由多個處理層來組成計算模型，可學習具有多個抽象級別的數據表示[25]，在經過若干處理層的轉換之后，模型可以學到非精細的模式和特征[26]. 因此，本文基于深度學習中的長短期記憶網絡LSTM，通過搭建Seq2Seq模型[32-33]，提出了對實測沉降數據進行預處理的新方法. 在對比模型重新計算的全過程沉降值與對應的實測值后，驗證了該數據預處理方法的可行性. 最后，還對Seq2Seq模型的超參數與數據情況等主要影響因素進行分析，探討了模型的具體應用方法.

1? ?基于深度學習的沉降計算原理研究

如圖1所示，深度學習處理問題的出發點與傳統思維完全不同. 傳統思維方法會事先建立從輸入到輸出的映射規則，而深度學習則首先通過輸入與已知的輸出標簽來反向求解出這種映射關系，再對新的輸入數據應用訓練得到的模型來計算輸出.

對于沉降計算問題，根據沉降計算理論，不論是式（1）的普通分層總和法還是式（2）的建筑地基基礎規范修正式，關鍵都在于經驗系數簇α的選取.

又對于式（3）太沙基一維固結理論，將其簡化為式（4）. 若考慮非線性固結，則如式（5）（6）所示[34]，按應力和應變定義的固結度存在差異. 式（4）（5）（6）的重點在于函數簇f的選取. 因此，沉降計算在統計方法上可以看作對α和f分布的選取.

深度學習可通過多個處理層組成的神經網絡模型，來學習沉降數據的發展規律，經過多個處理層的轉換之后，理論上模型可以組合出任意函數分布[15]. 應用在沉降計算過程中時，網絡參數會根據實測數據的輸入（即土體參數）和答案（即實測沉降值），不斷調整自身參數值，優化出最符合此現場沉降發展規律的α和f函數簇的分布. 并且深度學習優化出的α和f可以隨時間變化，表現出高度非線性，這也符合在不同沉降發展階段，α和f應取不同值的理論依據. 因而，深度學習契合沉降計算的要求.

深度學習最大的優勢在于，除了經驗系數α和f的選取完全來自于對數據模式的高效識別外，還在最初就考慮了各種不可控噪聲對沉降的影響. 在數據量大的條件下，深度學習模型由于具有記憶和遺忘功能以及強大的學習能力，可以通過對多個良好測點沉降模式的學習來識別這些噪聲，從而在異常數據處理時，除了經驗系數之外還能考慮到噪聲的影響. 其中，處理沉降發展曲線這種時間序列尤其適合LSTM.

2? ?LSTM與Seq2Seq模型

2.1? ?LSTM神經元內部結構

傳統深度神經網絡雖然能對數據進行逐層的特征提取，但無法考慮時間順序，沒有辦法對時間序列進行有效的處理. 循環神經網絡RNN正是為克服這個缺點而誕生的，也即RNN擁有一定的記憶功能. 具體的表現形式為循環神經網絡會對前面的信息進行記憶并應用于當前輸出的計算中，隱藏層之間的節點不再是無連接而是有連接的，并且隱藏層的輸入不僅包括輸入層的輸出，還包括上一時刻隱藏層的輸出.

長短期記憶網絡LSTM是循環神經網絡的主流實現，是一類用于處理時間序列的神經網絡，其神經元內部結構如圖2所示. 在t時刻，網絡的輸入有3個：當前時刻的輸入值xt，上一時刻LSTM的輸出值ht-1，上一時刻的記憶單元ct-1;輸出有2個：當前時刻的輸出值ht，當前時刻的記憶單元ct.

LSTM的關鍵在于如何控制記憶單元c，為此，LSTM設計了3個開關，即門控單元：輸入門、遺忘門和輸出門.

1）輸入與門控單元.

輸入：

at = tanh（Wa xt + Ua ht-1）? ? ? ? ? ? ? （7）

輸入門：

it = σ（Wi xt + Ui ht-1）? ? ? ? ? ? ? （8）

遺忘門：

f t = σ（Wf xt + Uf ht-1）? ? ? ? ? ? ? （9）

輸出門：

ot = σ（Wo xt + Uo ht-1）? ? ? ? ? ? ? （10）

其中，σ為sigmoid函數.

2）記憶狀態單元的更新.

ct = it⊙at + f? t⊙ct-1? ? ? ? ? ? ? （11）

3）輸出.

ht = ot⊙tanh（ct）? ? ? ? ? ? ? ?（12）

LSTM用遺忘門決定上一時刻的記憶單元ct-1有多少保留到當前時刻ct，用輸入門決定當前網絡的輸入xt有多少保留到當前時刻ct，用輸出門控制當前記憶單元ct有多少輸出到當前ht.

2.2? ?全過程沉降重計算Seq2Seq模型

LSTM常常用來構建Seq2Seq模型，如圖3所示. 在訓練全過程沉降修正模型的過程中，輸入是每個時刻的施工參數、土層參數，輸出是每個時刻的沉降. 對于encoder部分，將訓練數據按時序輸入，得到encoder部分的最終記憶單元值cn和最終輸出hn，再用cn和hn來初始化decoder最初的c0和h0. 訓練的輸入包括1）施工參數：時間、加載和卸載等;2）土層參數：各土層的壓縮模量E、厚度h等.

對于decoder，再次將訓練數據按時序輸入，在每個時間點t，輸入為xt，標簽為yt . 訓練標簽為各時段對應的實測沉降值. 訓練網絡的目的是讓LSTM每個時刻輸出的ht與標簽yt盡可能接近. 通過建立ht與相應時刻yt的損失函數MAE，利用梯度下降法訓練網絡，使損失逐步降低以達到預期值.

3? ?Seq2Seq模型的應用與驗證

深度學習需要首先根據實際數據反演輸入與輸出的映射關系，脫離實際數據來討論深度學習是無意義的，因此，直接將工程實測數據分析作為出發點是深度學習的必然要求.

3.1? ?工程背景

某大型機場填海面積26.0 km2，從某島礁地基處理一期工程中2 000余測點的實測沉降曲線中可以看到，由于觀測、儀器等誤差，測得的部分測點沉降曲線不符合沉降理論的預期，違背沉降發展規律，集中體現在出現大幅波動的鋸齒狀曲線這一現象. 但從工程的實際情況來看，堆載測點并未卸載，應只有下沉，不可能出現回彈. 這說明測得的鋸齒狀曲線與測點實際的沉降發展曲線相比有很大的偏差. 除去觀測誤差的影響，現場實測曲線還存在某時間段數據缺失、測試員隨意寫入沉降數據等多種問題. 由于機場建設非常關注全區域不均勻沉降帶來的影響，而問題測點的數量較多，因此需要對這些異常測點數據進行預處理.

3.2? ?模型的驗證與應用

Seq2Seq模型訓練與驗證過程如圖4所示. 首先需要人工對數據進行遴選，挑出符合經典沉降理論預期的優良測點數據作為訓練集和測試集;然后定義網絡超參數（非網絡參數），對于上述Seq2Seq模型，即選取神經元數量;之后網絡參數的調整過程是模型根據反向傳播自動進行的，無需人為干預;模型訓練完成后，如在訓練集和測試集上都收斂，則可應用到異常測點數據處理，否則需要重新調整神經網絡超參數或重新選取訓練集與測試集，并再次訓練網絡.

模型訓練完成后，在測試集所有測點上的全過程平均誤差為32 mm. 圖5為A區部分測點的實測與重計算對比圖，從圖5（a）（b）（c）曲線的前半段可以看到，由于前期的沉降過程差異較大，在數據不夠充足的情況下，模型很難精準修正，所以前半段的平均誤差達到53 mm. 到曲線后半段，模型能夠發現沉降逐步偏向平穩的趨勢，且精度提升明顯，后半段平均誤差為8 mm. 圖5（d）全過程平均誤差為9 mm，低于全部測試集測點的平均誤差值32 mm，且全過程都較為準確. 圖5表明，深度學習模型對各種沉降發展模式，即各種形狀的實測曲線，都能做到較為精確的重新計算，而傳統方法很難處理突變等復雜狀況. 且深度學習模型計算后半段曲線的精確度明顯高于前段，對于預測工后沉降來說，曲線后期的發展趨勢顯然更重要.

4? ?模型學習能力的影響因素

為探究模型學習能力的影響因素，也為證實前文所述深度學習的普適性，另選取該機場B區與C區的測點訓練并測試模型，得到的結果與A區作為對比.

4.1? ?數據量

深度學習是數據驅動的科學，模型能否取得優異的表現，數據量的大小是決定因素之一.

如表1所示，模型在B區測試集上有91 mm的平均誤差. B區誤差偏大的原因是模型僅使用16個測點作為訓練集數據，來重計算測試集的8個測點. B區的數據較少，嚴重限制了模型的泛化能力. 逐漸增大數據量后，模型的精確程度有了很大的提高，在C區測試集上誤差縮小到22 mm. 從使用的數據量來看，B區與C區的結果均在合理范圍內，這也反映了深度學習的普適性.

4.2? ?神經元數量

LSTM神經元的個數對模型的學習能力有很大影響. 神經元選取的數量需要逐步調試，數量過少會導致欠擬合，模型在訓練集上都無法做到收斂;數量過多模型會出現過擬合現象，在測試集上的表現明顯變差.

表2展示了神經元數量選取16、32、64、128、256對模型計算沉降值與真實沉降值之間平均誤差的影響. 神經元數量越多在訓練集上的表現越好，因為此時模型的學習能力變強. 在測試集上則存在一個極值點，神經元數量偏少時，模型學習能力不強，無法通過訓練集數據學習到沉降發展的規律;數量偏多時，模型由于強大的擬合能力，開始過度關注訓練集數據，將其中的異常噪聲也進行學習. 模型在測試集上的表現是問題的核心，對于A區測點數據選取64個神經元，此時模型在測試集上表現最優.

4.3? ?數據分布

圖6為B區測試集8個測點的實測與重計算沉降對比圖. 圖6中的主要誤差都來源于測點B-52和B-53，而其他測點的重計算情況相對較好，這說明除了數據量對模型誤差的影響外，還存在其他重要影響因素. B區訓練集測點的淤泥層厚度、黏土層厚度見表3. 圖7由表3數據繪制而成.

表3最后兩行黑體字部分為測試集誤差主要來源B-52和B-53的參數值，其余為訓練集測點的參數值. 從圖7可以看到，訓練集測點的黏土層厚度大多數在10 m以上，而淤泥層的厚度在4 m以下，與B-52、B-53的土層厚度相差較大，由于訓練集的數據分布與測試集差異很大，且數據量偏少，模型無法學習到淤泥層、黏土層厚度增大或減小造成的沉降具體增減量. 模型主要訓練在黏土層厚而淤泥層薄的數據集上，B-52和B-53的黏土層厚度過小，因此計算出的最終沉降會偏小.

在數據較少的條件下，數據的分布會造成模型預測結果不夠精確. 劃分數據集時，應該盡量讓訓練集和測試集具有相同的數據分布. 將B-52或B-53中的任意一點加入訓練集可以部分彌補訓練集和測試集分布的偏差，嘗試將B-52加入訓練集后，模型在其余條件不變的情況下測試集誤差減小至57 mm，相較之前有明顯提升.

4.4? ?數據特征

圖8為測試集測點C-16、C-22的沉降曲線對比圖，其土層參數見表4.

C-16與C-22的土層參數相差不大，但C-16在沉降發展到350 d后誤差明顯變大. 這說明施工條件僅考慮加載，土層參數僅考慮壓縮量較大的淤泥和黏土限制了模型學習能力. C-16顯然是受到如滲透系數、排水條件等其他因素的影響. 在數據偏多的情況下，應該考慮更多的影響因素，加入更多的數據特征.

在加入滲透系數作為數據特征后，C-16的沉降對比曲線見圖9（a），誤差由之前的21 mm降低至10 mm，且曲線后段提升效果明顯. C-22在考慮了滲透系數后，計算誤差降低到2 mm.

5? ?結? ?論

通過搭建Seq2Seq模型，首次提出了深度學習在實測沉降數據預處理中的應用方法. 在某機場不同典型區域A、B、C，通過對比模型在測試集上的重計算與實測沉降值，驗證了深度學習對異常沉降數據進行預處理的可行性. 其中，Seq2Seq模型在A、C區域沉降數據的預處理中，將全過程平均誤差分別控制在3 cm和2 cm，表明此方法對工程實測沉降數據預處理及后續預測具有較好的實用價值. 最后，還分析了超參數與數據集對模型學習能力的影響程度. 具體結論如下：

1）數據量對模型處理異常數據的能力起決定作用，模型輸出誤差隨數據量增大明顯變低. 樣本數量作為統計方法的重要參數，是深度學習在巖土工程中的應用能否取得成功的基石. 增大樣本數量時，模型在B、C區域測試集上的誤差由91 mm降低至22 mm.

2）訓練集與測試集的參數一致性對模型性能有很大影響. 在B區的測試過程中，B-52、B-53測點的淤泥層與黏土層厚度與訓練集相差較大，導致模型測試與學習的內容不一致，造成B區的重計算精度明顯偏低. 因此在劃分數據集的過程中，應盡量保證訓練集與測試集的數據特征分布大致相同. 具體操作時，多次隨機選取訓練集，分別訓練完成后對測試集結果取均值，一般能弱化這種差異.

3）所選數據特征的代表性對模型輸出精度影響較大. 若模型反復調試后，依舊達不到精度要求，應考慮所選輸入是否具有代表性. 此時可根據具體數據狀況逐步增加數據特征，直至模型的重計算值達到精度要求. 例如，相較于初次訓練測試時僅考慮壓縮模量與各土層厚度，增加滲透系數作為輸入后，C區誤差明顯降低.

4）超參數的最優解會隨具體數據集變化而不同，需根據具體的數據狀況進行逐步調試，應避免過擬合與欠擬合現象發生. 神經元數量、學習率、優化器、數據批次、網絡層數等是模型自身超參數，其調節一般都是試錯的過程. 在算力充足的條件下，可對每個超參數設定一個數值或類型范圍，對它們的組合全部進行訓練. 訓練完成后，在測試集上進行驗證并挑選合理結果. 若時間有限，在固定其他超參數為默認值的條件下，可優先調節神經元數量與學習率，同樣能夠取得較為理想的結果.

參考文獻

[1]? ? 龔曉南，謝康和. 土力學[M]. 北京：中國建筑工業出版社，2018：110—127.

GONG X N，XIE K H. Soil mechanics[M]. Beijing：China Architecture & Building Press，2018：110—127. （In Chinese）

[2]? ? 劉波，楊偉紅，張功，等. 基于隧道不均勻變形的地表沉降隨機介質理論預測模型[J]. 巖石力學與工程學報，2018，37（8）：1943—1952.

LIU B，YANG W H，ZHANG G，et al. A prediction model based on stochastic medium theory for ground surface settlement induced by non-uniform tunnel deformation[J]. Chinese Journal of Rock Mechanics and Engineering，2018，37（8）：1943—1952. （In Chinese）

[3]? ? WANG Y，LI J P，LI L. Settlement of jacked piles in clay：Theoretical analysis considering soil aging[J]. Computers and Geotechnics，2020，122：103504.

[4]? ? ZHOU Z，CHEN Y，LIU Z Z，et al. Theoretical prediction model for deformations caused by construction of new tunnels undercrossing existing tunnels based on the equivalent layered method[J]. Computers and Geotechnics，2020，123：103565.

[5]? ? 盧健，姚愛軍，鄭軒，等. 地鐵雙線隧道開挖地表沉降規律及計算方法研究[J]. 巖石力學與工程學報，2019，38（S2）：3735—3747.

LU J，YAO A J，ZHENG X，et al. Study on the law and computational method of ground surface settlement induced by double-line tunnel excavation[J]. Chinese Journal of Rock Mechanics and Engineering，2019，38（S2）：3735—3747. （In Chinese）

[6]? ? KUMAR B，SAHOO J P. Support pressure for circular tunnels in two layered undrained clay[J]. Journal of Rock Mechanics and Geotechnical Engineering，2020，12（1）：135—148.

[7]? ? OBERHOLLENZER S，TSCHUCHNIGG F，SCHWEIGER H F. Finite element analyses of slope stability problems using non-associated plasticity[J]. Journal of Rock Mechanics and Geotechnical Engineering，2018，10（6）：1091—1101.

[8]? ? LESTER A M，KOURETZIS G P，SLOAN S W. Finite element modelling of prefabricated vertical drains using 1D drainage elements with attached smear zones[J]. Computers and Geotechnics，2019，107：235—254.

[9]? ? 冷伍明，陳琛，徐方，等. 深厚軟土區超長樁基壓縮變形測試及分析[J]. 湖南大學學報（自然科學版），2019，46（11）：87—96.

LENG W M，CHEN C，XU F，et al. Measurement and analysis of compression deformation of a super-long pile foundation in deep soft deposit[J]. Journal of Hunan University （Natural Sciences），2019，46（11）：87—96. （In Chinese）

[10]? 潘林有，謝新宇. 用曲線擬合的方法預測軟土地基沉降[J]. 巖土力學，2004，25（7）：1053—1058.

PAN L Y，XIE X Y. Observational settlement prediction by curve fitting methods[J]. Rock and Soil Mechanics，2004，25（7）：1053—1058.（In Chinese）

[11]? 曾國熙，楊錫令.砂井地基沉陷分析[J].浙江大學學報，1959（3）：34—72.

ZENG G X，YANG X L. Analysis of sand well foundation subsidence[J]. Journal of Zhejiang University，1959（3）：34—72. （In Chinese）

[12]? SRIDHARAN A，MURTHY N S，PRAKASH K. Rectangular hyperbola method of consolidation analysis[J]. Géotechnique，1987，37（3）：355—368.

[13]? 宰金珉，梅國雄. 全過程的沉降量預測方法研究[J]. 巖土力學，2000，21（4）：322—325.

ZAI J M，MEI G X. Forecast method of settlement during the complete process of construction and operation[J]. Rock and Soil Mechanics，2000，21（4）：322—325. （In Chinese）

[14]? ASAOKA A. Observational procedure of settlement prediction[J]. Soils and Foundations，1978，18（4）：87—101.

[15]? ZHANG P，LI H，HA Q P，et al. Reinforcement learning based optimizer for improvement of predicting tunneling-induced ground responses[J]. Advanced Engineering Informatics，2020，45：101097.

[16]? YE X W，JIN T，YUN C B. A review on deep learning-based structural health monitoring of civil infrastructures[J].Smart Structures and Systems，2019，24（5）：567—586.

[17]? 薛亞東，高健，李宜城，等. 基于深度學習的地鐵隧道襯砌病害檢測模型優化[J]. 湖南大學學報（自然科學版），2020，47（7）：137—146.

XUE Y D，GAO J，LI Y C，et al. Optimization of shield tunnel lining defect detection model based on deep learning[J]. Journal of Hunan University （Natural Sciences），2020，47（7）：137—146. （In Chinese）

[18]? 張士勇，夏定輝，唐輝. 深度學習小波神經網絡模型在地鐵沉降預測中的應用[J]. 測繪通報，2018（S1）：250—253.

ZHANG S Y，XIA D H，TANG H. Application of deep learning wavelet neural network model in subway settlement prediction[J]. Bulletin of Surveying and Mapping，2018（S1）：250—253. （In Chinese）

[19]? POOY A NEJAD F，JAKSA M B. Load-settlement behavior modeling of single piles using artificial neural networks and CPT data[J]. Computers and Geotechnics，2017，89：9—21.

[20]? NAM K，WANG F W. An extreme rainfall-induced landslide susceptibility assessment using autoencoder combined with random forest in Shimane Prefecture，Japan[J]. Geoenvironmental Disasters，2020，7（1）：1—16.

[21]? MA Q W，LIU S H，FAN X Y，et al. A time series prediction model of foundation pit deformation based on empirical wavelet transform and NARX network[J]. Mathematics，2020，8（9）：15—35.

[22]? CHEN R P，ZHANG P，WU H N，et al. Prediction of shield tunneling-induced ground settlement using machine learning techniques[J]. Frontiers of Structural and Civil Engineering，2019，13（6）：1363—1378.

[23]? JEBUR A A，ATHERTON W，AL KHADDAR R M，et al. Settlement prediction of model piles embedded in sandy soil using the levenberg-marquardt （LM） training algorithm[J]. Geotechnical and Geological Engineering，2018，36（5）：2893—2906.

[24]? TANG Y Q，XIAO S Q，ZHAN Y J. Predicting settlement along railway due to excavation using empirical method and neural networks[J].Soils and Foundations，2019，59（4）：1037—1051.

[25]? LECUN Y，BENGIO Y，HINTON G. Deep learning[J]. Nature，2015，521（7553）：436—444.

[26]? NGUYEN T T，NGUYEN N D，NAHAVANDI S. Deep reinforcement learning for multiagent systems：a review of challenges，solutions，and applications[J]. IEEE Transactions on Cybernetics，2020，50（9）：3826—3839.

[27]? LUC P，COUPRIE C，LECUN Y，et al. Predicting future instance segmentation by forecasting convolutional features[C]//Proceedings of Computer Vision-ECCV 2018. Glasgow，United Kingdom，2018：593—608.

[28]? YU Y，SI X S，HU C H，et al. A review of recurrent neural networks：LSTM cells and network architectures[J]. Neural Computation，2019，31（7）：1235—1270.

[29]? GRAVES A，MOHAMED A R，HINTON G. Speech recognition with deep recurrent neural networks[C]//Proceedings of the 2013 IEEE International Conference on Acoustics，Speech and Signal Processing. Vancouver，BC，Canada：IEEE，2013：6645—6649.

[30]? WU X，DU Z K，GUO Y K，et al. Hierarchical attention based long short-term memory for Chinese lyric generation[J]. Applied Intelligence，2019，49（1）：44—52.

[31]? CHEN S，GE L. Exploring the attention mechanism in LSTM-based Hong Kong stock price movement prediction[J]. Quantitative Finance，2019，19（9）：1507—1515.

[32]? SUTSKEVER I，VINYALS O，LE Q V. Sequence to sequence learning with neural networks[C]// Proceedings of the 27th International Conference on Neural Information Processing Systems. Santa Fe，New Mexico，USA，2014：3104—3112.

[33]? WISEMAN S，RUSH A M. Sequence-to-sequence learning as beam search-optimization[C]//Proceedings of the 2016 Conference on Empirical Methods in Natural Language Processing. Stroudsburg，PA，USA：Association for Computational Linguistics，2016：1296—1306.

[34]? XIE K H，WANG K，CHEN G H，et al. One-dimensional consolidation of over-consolidated soil under time-dependent loading[J]. Frontiers of Architecture and Civil Engineering in China，2008，2（1）：67—72.