基于誤差補償LSTM-GRU 的綜合能源系統多元負荷預測*

耿 陽 王海龍 張 楠 付 明

(1.國網江蘇省電力有限公司揚中市供電分公司 揚中 212200；2.國電南瑞科技股份有限公司 南京 211106；3.國網江蘇省電力有限公司鎮江供電分公司 鎮江 212000)

1 引言

隨著我國經濟、工業的迅速發展，能源短缺問題已經成為制約我國發展的重要因素。綜合能源系統考慮多種能源形式之間的耦合關系，提高了能源的利用效率，顯著減少了能源的浪費[1-3]。精確的負荷預測是提高經濟調度有效性的重要保證，對經濟調度、最優潮流、電力市場交易等有著重要的意義。綜合能源系統具有多種形式的負荷，多種形式的負荷互相影響，不能只考慮單一能源形式的負荷預測，需要對多元負荷進行聯合預測[4-6]。

如今常用統計學方法和機器學習方法來進行負荷預測。傳統的數學統計方法有指數平滑法[7]，卡爾曼濾波法[8-9]和多元線性回歸法[10]等。這類算法雖然有一定的成效，但對受到多種因素影響的短期負荷預測而言，無法對波動性和隨機性強的負荷進行精確預測，結果難以參考。當前大量使用的機器學習的預測方法主要有支持向量機[11-12]、隨機森林[13]和神經網絡[14-16]等。在訓練樣本較大的情況下，支持向量機和隨機森林等方法存在收斂速度較慢的缺點，而且對數據十分敏感，神經網絡的出現很好地解決了上述問題。

近年來，比較前沿的機器學習方法在解決復雜預測問題時，通過多層神經網絡之間的映射關系就可以很好地對輸入與輸出之間的關系進行擬合。長短期記憶(Long short-term memory，LSTM)網絡和門控循環單元(Gated recurrent unit，GRU)等依靠其對時間序列的數據較強的處理能力從而得到廣泛的應用。文獻[17]將LSTM 方法用在超短期負荷預測中，該方法包括使用LSTM 建模進行全天負荷預測與周期滾動預測，再利用相似日數據對周期滾動預測結果進行修正。

單一預測模型預測精度有限，大量的研究結果表明，將多種模型或者算法結合的組合預測模型的預測精度明顯優于單一預測模型[18-20]。文獻[18]使用卷積神經網絡(Convolutional neural network，CNN)與雙向長短期記憶(Bi-directional long short-term memory，BiLSTM)網絡組合模型進行負荷預測，在預測之前先挖掘數據的時序特征，提高了預測模型的精度。文獻[19]利用貓群優化算法(Cat swarm optimization，CSO)尋找反向傳播(Back propagation，BP)神經網絡的最優參數，進一步優化BP 神經網絡的預測精度。當前對于組合預測模型的研究主要著重于利用機器學習進行數據特征挖掘，再進行負荷預測，或者利用一些新穎的算法對神經網絡的參數進行優化來尋找最優的神經網絡參數，上述方法對負荷預測都有進一步的提升，但是很少有著重于對負荷預測的結果進行誤差補償的研究。

針對上述方法的不足，本文在考慮誤差補償的前提下，提出利用GRU 網絡對負荷預測的誤差進行補償，將預測模型和誤差補償模型的結構重構，得到最終的負荷預測結果。仿真結果表明本文提出的負荷預測模型相較于其他模型具有更高的精確度，驗證了所提方法的可行性。

2 多元負荷及氣象因素相關性分析

綜合能源系統中存在大量的能量轉換設備，例如電鍋爐、電轉氣(Power to gas，P2G)設備和冷熱電聯產(Combined cooling heating and power，CCHP)系統等，所以綜合能源系統中各種形式的能源之間具有較高的耦合度，需要區別于傳統的電力系統負荷預測。對綜合能源系統的多元負荷進行聯合預測時，應該考慮到各種形式負荷之間的相互耦合關系。

影響綜合能源系統負荷預測精度的因素眾多，除了考慮各負荷之間的耦合相關性，還需要考慮氣候環境等因素。但是并非所有的氣象因素都需要考慮，有些因素并不會對負荷預測的結果產生很大的影響，而且會大大增加系統的復雜度。為了針對性地進行影響因素的選擇，本文選擇灰色關聯度分析方法來分析各影響因素與多元負荷之間的相關性，從而選擇合適的影響因素進行負荷預測。

2.1 灰色關聯度分析

灰色關聯度分析(Grey relation analysis，GRA)用來描述不同因素之間隨時間或對象變化的關聯性的大小?；舅枷胧峭ㄟ^確定參考數據和若干個比較數據的幾何形狀相似程度來判斷其聯系是否緊密，反映了曲線間的關聯程度。目前綜合能源系統和電力系統的負荷預測大多采用皮爾遜相關系數法對負荷和影響因素進行相關性分析，但電負荷、熱負荷、冷負荷和氣象因素之間的關系是非線性的，更適合使用GRA 方法。而且GRA 方法不需要以大量的數據為基礎，可以減少信息不對稱帶來的損失。

GRA 方法需要首先確定參考數據和比較數據，并對數據進行無量綱化處理，方便比較。通過式(1)和式(2)分別計算關聯系數和關聯度。最后，對關聯度進行排序，若r1>r2，則對于同一參考數據，x1優于x2。

式中，ξi(k)為關聯系數；y(k)為參考數據的第k個值；xi(k)為第i列比較數據的第k個值；ρ為分辨系數，取值為0≤ρ≤ 1，一般取0.5。在本文模型中，y(k)表示電、熱、冷負荷等多元負荷，xi(k)表示可能對多元負荷產生影響的各影響因素。

式中，ri為關聯度，ri值越接近1，說明當前選取的y(k)與影響因素xi(k)的關聯度越高，即影響因素對負荷的影響就越大；n為序列中數據的個數。

2.2 多元負荷預測影響因素選擇

利用美國亞利桑那州立大學的能源信息系統和“Campus Metabolism”網站2020 年6—8 月的多元負荷數據以及同時期的溫度、濕度、風速、太陽輻射等氣象數據，采取上述的GRA 方法對綜合能源系統多元負荷與氣象因素之間的相關性進行分析，依次求得電負荷、冷負荷和熱負荷與各影響因素之間的關聯度大小，根據關聯度的大小選擇合適的影響因素進行多元負荷預測，結果如表1 所示。

表1 多元負荷與影響因素的關聯度

從表1 中可知，電負荷、冷負荷、熱負荷和除風速外的各氣象因素之間存在很高的相關性。風速與電熱冷負荷的相關性均小于0.1，所以在負荷預測中可以不考慮風速對負荷預測結果的影響，進而減小系統的復雜度。電負荷與冷負荷的相關性為0.86，這是因為所選數據為夏季的綜合能源系統多元負荷數據，而夏季電負荷多用于空調等設備制冷，因此夏季電負荷與冷負荷的相關性要高于電負荷與熱負荷的相關性，符合現實規律。

因此，本文多元負荷預測的主要影響因素有電負荷歷史數據、熱負荷歷史數據、冷負荷歷史數據、溫度、濕度、太陽輻射和日類型信息，將工作日與休息日分別用1 和2 表示。通過灰色關聯度分析方法選擇對多元負荷影響較大的因素作為該預測模型的輸入集，可以大大增加預測模型的精確度，也可以篩選出對多元負荷預測影響較小的因素，簡化模型，提高訓練與預測效率。

3 負荷預測與誤差補償模型

3.1 LSTM 神經網絡模型

長短期記憶(Long short-term memory，LSTM)神經網絡是循環神經網絡的一種形式。本文使用長短期記憶神經網絡是因為其可以很好地對時間序列歷史數據進行訓練與預測，對于具有強季節性趨勢的歷史負荷數據十分合適。

LSTM 神經網絡的每個神經元都包含輸入門、遺忘門和輸出門三種門結構，相較于循環神經網絡(Recurrent neural network，RNN)增加了用來儲存神經元狀態的信息流，通過三個門來控制信息的遺忘和傳遞，LSTM 的結構如圖1 所示。

圖1 LSTM 神經元結構圖

LSTM 模型計算過程為

式中，ft、it、to分別表示神經元的遺忘門、輸入門、輸出門的輸出信號；C~t表示神經元候選狀態信息；Ct表示神經元狀態信息；th表示神經元的隱狀態；tanh()表示雙曲正切激活函數；σ表示sigmoid激活函數；Wf、iW、WC、Wo分別表示遺忘門、輸入門、記憶單元和輸出門的權重；bf、ib、Cb、ob分別表示遺忘門、輸入門、記憶單元和輸出門的偏置量；xt表示神經元輸入序列值；⊙表示逐點乘法運算。

3.2 GRU 神經網絡模型

GRU 模型是LSTM 模型的一種改進結構，GRU將LSTM 的門結構進行了合并，可以增加網絡的訓練速度，并且保證模型的訓練精度不會下降。相比于LSTM 的“三門”結構，GRU 只有更新門和重置門兩個門結構，對網絡結構進行簡化，可以提高模型的訓練速度。GRU 結構如圖2 所示。

圖2 GRU 神經元結構圖

GRU 模型計算過程為

式中，tr表示t時刻重置門的輸出；Zt表示t時刻更新門的輸出；Wr表示重置門的權重矩陣；WZ表示更新門的權重矩陣；Wh~表示候選隱狀態的權重矩陣；x t表示GRU 模型在t時刻的輸入；th表示GRU模型在t時刻的隱藏層狀態輸出；t~h表示當前輸入的候選隱狀態；sigmoid()為S 型激活函數；tanh()表示雙曲正切激活函數。

3.3 誤差補償

誤差是指測量值偏離真實值的程度，根據誤差來源可以分為系統誤差、隨機誤差和毛誤差。系統誤差由儀器本身誤差、采用方法的誤差、環境誤差等原因導致，理論上可以通過一定的手段或方法來消除；隨機誤差是由無法控制的變因導致的測量值產生隨機分布的誤差，它是不可消除的；毛誤差主要是因測量者的疏忽而造成，這種誤差是可避免的。系統誤差對于測量值的影響是通過某種相同的方式，將測量值推向同一個方向，有一定的規律性。

顯然，誤差與噪聲具有明顯的差異性，前者有明顯的規律性，后者無規律可循。因此可以通過探尋誤差產生的規律，對誤差進行修正，達到減小誤差、提高精度的目的。

負荷預測模型的預測誤差不僅包含時間序列預測的隨機誤差，也包含因模型的性能偏差而導致的系統誤差，這種有規律可循的系統誤差可通過時間序列預測的誤差補償技術得到適當的補償和修正，減小誤差中的冗余信息，以提高預測精度。

為進一步減小負荷預測模型的預測誤差，本文采用誤差補償技術，建立誤差補償模型，對預測誤差進行訓練學習，進而實現對預測誤差的補償，以提高預測的精度?；谡`差補償的預測方法分如下兩步進行：① 利用所構建的預測模型對樣本數據進行預測，得到相應的預測誤差；② 建立誤差補償模型，將步驟①所得到的誤差作為模型的輸入，通過模型訓練使誤差補償模型的輸出逼近樣本的誤差預測值，將同一個樣本的預測值與誤差預測值相加，實現對所提預測模型的預測結果的補償。

4 預測模型

4.1 預測模型結構

本文所提基于誤差補償的綜合能源系統多元負荷預測模型的流程如圖3 所示，由于LSTM 和GRU網絡可以較好地處理時間序列數據，利用LSTM 網絡對多元負荷進行初步預測，再使用GRU 網絡對預測誤差進行補償，通過將負荷預測值與誤差補償值重構，得到多元負荷預測的最終結果。該模型共有輸入層、LSTM 負荷預測層、GRU 誤差補償層、誤差重構層和輸出層五個結構。

圖3 LSTM-GRU 模型流程圖

該模型中每一層的詳細功能如下所示。

(1) 輸入層：負荷數據之間的量綱不同，所以需要對電負荷、熱負荷和冷負荷的歷史數據進行歸一化等預處理，使用歸一化數據可以方便模型訓練和預測。歸一化處理的公式為

式中，X′表示歸一化處理后的數據；X表示歸一化處理前的數據；Xmax和Xmin分別表示數據序列中的最大值和最小值。

(2) LSTM 負荷預測層：LSTM 層的作用是學習多元負荷歷史數據的特征，對多元負荷進行預測。預測結果進行反歸一化處理，作為該負荷預測模型的初步預測結果，并求得預測誤差作為后續模型的輸入。反歸一化為歸一化的逆運算，其原理為

式中，X表示反歸一化處理后的數據；X′表示反歸一化處理前的數據；Xmax和Xmin分別表示數據序列中的最大值和最小值。

(3) GRU 誤差補償層：GRU 層的作用是對LSTM 層負荷預測的誤差進行學習，并預測出負荷預測的誤差補償值。

(4) 誤差重構層：誤差重構層的作用是得到最終的多元負荷預測值。將負荷預測層的輸出結果與誤差補償層的輸出結果做和，得到該多元負荷預測模型的最終結果。

(5) 輸出層：將經過誤差重構得到的多元負荷預測重構結果作為本模型的預測結果輸出。

本文所提多元負荷預測模型的算法流程如圖4所示。

圖4 多元負荷預測模型流程圖

模型的損失函數使用均方誤差函數，即

式中，n為樣本個數；yi為i時刻的負荷實際值；為模型運算后得到的i時刻負荷預測值。

本文提出的基于誤差補償的綜合能源系統多元負荷預測模型結構如圖5 所示，首先通過GRA 方法對多元負荷的影響因素進行分析，選取與多元負荷關聯度較高的氣象因素作為影響因素；影響因素結合歷史負荷數據進行歸一化處理，處理后的數據進入LSTM 模型進行模型構建和訓練負荷預測模型，輸出結果為多元負荷初步預測結果；求得LSTM模型的預測誤差并進行處理，處理后的數據進入GRU 模型進行模型構建和訓練誤差補償模型，輸出結果為預測誤差應當補償的值；通過初步預測結果與誤差補償結果的重構，進行反歸一化得到多元負荷最終預測結果。

圖5 多元負荷預測模型結構圖

本文在預測模型的訓練過程中，選取Adam 優化算法對模型參數進行優化。Adam 是一種可以替代傳統隨機梯度下降過程的一階優化算法，該算法能夠基于訓練數據迭代更新神經網絡的權重，使損失函數輸出值達到最優。

4.2 評價指標

為了驗證本文所提模型在負荷預測方面的精確性，采用平均絕對誤差百分比(Mean absolute percentage error，MAPE)、均方根誤差(Root mean square error，RMSE)和平均誤差(Mean error，ME)指標對模型的預測準確性進行評估，計算方法為

式中，n表示預測結果數量；yi表示預測值；表示真實值。

評價指標MAPE表示預測值與實際值的偏離程度，表示預測誤差與預測結果的百分比；RMSE 和ME 都可以直觀表示預測誤差的大小，在本算例中RMSE 和ME 的單位都為kW。上述三個指標可以評估模型的預測精度，MAPE、RMSE 和ME 的值越小，代表負荷預測的誤差越小，精度越高。

5 算例分析

本文算例利用Matlab 仿真平臺搭建了多元負荷預測與誤差補償模型。該算例的數據選取自美國亞利桑那州立大學創建的能源信息系統和“Campus Metabolism”網站2020 年6 月1 日—8 月31 日的多元負荷數據，數據的采樣周期是15 min，每天有96個樣本數據，數據集共有8 832 個樣本。取6 月1日—8 月4 日的數據作為訓練集數據用于預測模型的擬合；取8 月5—22 日的數據作為驗證集數據用于對模型進行評估；取8 月23—31 日的數據作為測試集數據用于評估模型的預測效果。將8 月30 日與8 月31 日的多元負荷預測誤差作為典型的休息日與工作日預測結果進行分析，并將8 月31 日的預測結果進行可視化比較，進一步對本文所提模型的準確性和優越性進行說明。

相較于傳統的隨機梯度下降法，Adam 優化算法具有更快的收斂速度，計算效率更高，可以代替隨機梯度下降法來更新網絡權重。網絡的最優超參數值通過粒子群算法獲得，設定隱藏層神經元個數為200，全連接層神經元個數為50，訓練迭代次數為100，初始學習率為0.05，學習率在迭代50 次之后開始衰減，衰減率為0.2，dropout 層的參數為0.5。本文中模型的最大提前預測時間為15 min，屬于超短期預測范疇，采用迭代式的預測模式。

5.1 滑動窗口寬度對預測精度的影響

滑動窗口算法是計算機網絡中處理數組或字符串問題常用的概念，其基本原理是在數組或字符串中由開始和結束索引定義的一系列元素的集合?；瑒哟翱陬櫭剂x就是一個可以將兩個邊界向某一方向“滑動”的窗口，通過窗口框選出數組或字符串中的特定元素集合進行處理。其具體過程如圖6所示。

圖6 滑動窗口示意圖

本文使用基于時間序列的神經網絡進行負荷預測，在對負荷數據進行序列化操作時選擇使用滑動窗口算法，而滑動窗口的寬度會對預測模型的精確度產生影響，所以需要對不同滑動窗口寬度的試驗結果進行對比，選擇最合適的滑動窗口寬度。

本文采取的初始滑動窗口寬度為4，每次將滑動窗口寬度擴大兩倍，直到滑動窗口寬度為32，之后預測模型的精度會下降，便不再進行研究。使用模型1 表示滑動窗口寬度為4 時的預測模型；模型2 表示滑動窗口寬度為8 時的預測模型；模型3 表示滑動窗口寬度為16 時的預測模型；模型4 表示滑動窗口寬度為32 時的預測模型。不同滑動窗口寬度下的負荷預測模型預測誤差如表2 所示。

表2 不同滑動窗口寬度下的預測誤差

圖7 所示為不同滑動窗口寬度下的電負荷、冷負荷、熱負荷預測結果。

圖7 不同滑窗寬度下的負荷預測結果

從表2 可知，上述四種模型在不同的日期類型，負荷預測的誤差趨勢大致相同，主要以工作日為例分析。當滑動窗口的寬度為8 時，該負荷預測模型的預測精度最好。模型1 相比于模型2，電負荷預測結果的MAPE 相等，但是對于冷負荷與熱負荷而言，滑動窗口寬度W=8 時的預測精度要優于W=4時的負荷預測精度。W=16 和W=32 時的預測精度明顯不如W=8 時的預測精度，所以該預測模型的滑動窗口寬度為8 時，效果最優。因此，本文以下的研究均基于滑動窗口的寬度為8 來展開。

5.2 采樣間隔對預測精度的影響

為衡量負荷數據的采樣時間間隔對預測模型的影響，本文對不同采樣間隔下的負荷數據進行預測，來驗證采樣間隔對該預測模型預測精度的影響。分別對比采樣間隔為15 min、30 min 和60 min 下的預測精度，使用模型5 表示采樣間隔為15 min 時的預測模型；模型6 表示采樣間隔為30 min 時的預測模型；模型7 表示采樣間隔為60 min 時的預測模型。不同采樣間隔下的負荷預測模型預測誤差如表3所示。

表3 不同采樣間隔下的預測誤差

圖8 所示為不同采樣間隔下的電負荷、冷負荷、熱負荷預測結果。

圖8 不同采樣間隔下的負荷預測結果

從表3 可以看出，在不同的日類型下采樣間隔為15 min 時的預測精度均最優。以工作日為例，采樣間隔為30 min 和60 min 時預測模型的電負荷預測誤差相比15 min 的預測模型電負荷預測的MAPE增加了1.05%和2.01%，RMSE 增加了44.7%和56.6%，ME 增加了52.5%和67.9%；冷負荷預測的MAPE 增加了0.40%和0.72%，RMSE 增加了30.4%和42.4%，ME 增加了32.4%和48.4%；熱負荷預測的MAPE 增加了0.52%和1.86%，RMSE 增加了37.9%和66.1%，ME 增加了40.1%和68.1%。從結果可以看出，采樣時間間隔對預測模型的精度有很大的影響，而且采樣間隔越短，歷史數據中所包含的信息就越多，更有利于預測模型對數據中的信息進行提取。因此，本文研究均基于采樣間隔為15 min的數據集來展開。

5.3 誤差補償對預測精度的影響

為驗證誤差補償在該多元負荷預測模型中對預測結果精度的影響，本文選擇在滑動窗口寬度為8，采樣間隔為15 min 的前提下，利用歷史數據對考慮誤差補償和不考慮誤差補償的多元負荷預測模型的預測效果進行對比，使用模型8 表示不考慮誤差補償時的預測模型，使用模型9 表示考慮誤差補償時的預測模型，預測誤差結果如表4所示。

表4 誤差補償模型對預測誤差的影響

圖9 所示為考慮誤差補償與不考慮誤差補償下的電負荷、冷負荷、熱負荷預測結果。

圖9 誤差補償對負荷預測的影響

從表4 可以看出，考慮誤差補償的預測模型，對多元負荷的預測效果更佳，相較于不考慮誤差補償的預測模型，在工作日時電負荷、冷負荷和熱負荷預測的MAPE分別減少了0.97%、0.87%和0.82%，RMSE 分別減少了35.1%、41.8%和55.8%，ME 分別減少了36.5%、39.6%和35.6%。誤差補償模型對電負荷的預測精度提升最為明顯，對冷負荷和熱負荷的預測精度提升大致相同。

5.4 不同模型對預測精度的影響

為進一步說明本文所提模型在綜合能源系統多元負荷預測中的優勢，將本文構建的模型與LSTM-LSTM 和GRU-GRU 組合模型進行對比。使用模型10 表示本文中構建的負荷預測模型；模型11 表示LSTM-LSTM 負荷預測模型，即使用LSTM模型進行負荷預測，使用LSTM 模型進行誤差補償；模型12 表示GRU-GRU 負荷預測模型，即使用GRU模型進行負荷預測，使用GRU 模型進行誤差補償。模型11 與模型12 均采用與模型10 相同的平臺，同時模型參數也均采用本文模型使用的參數尋優方法，以保證對比試驗的公平性。另外，為了進一步對比上述三種組合模型在訓練和預測時間上的優劣，采用tic/toc 方法分別計算三種模型的訓練時間和預測時間。各組合模型預測誤差如表5 所示，各組合模型的訓練時間、預測時間如表6 所示。

表5 不同模型的預測誤差

表6 不同模型的訓練、預測時間

圖10 所示為不同預測模型下的電負荷、冷負荷、熱負荷預測結果。

圖10 不同模型下的負荷預測結果

從表5 可以看出，本文所構建的預測模型相比于其他預測模型，在工作日時電負荷預測的MAPE降低了0.03%和0.38%，RMSE 降低了4.5%和32.3%，ME 降低了5.9%和25.6%；冷負荷預測的MAPE 降低了0.05%和0.26%，RMSE 降低了5.1%和22.7%，ME 降低了7.9%和27.3%；熱負荷預測的MAPE 降低了0.19%和0.26%，RMSE 降低了18.7%和26.5%，ME 降低了8.4%和26.9%。由表6可以看出，對于本文所構建的多元預測模型，訓練時間比模型11 和模型12 快了13 s 和15 s，預測時間比模型11 和模型12 快了0.6 s 和0.7 s。在預測精度和時間兩方面充分說明了本文所提負荷預測模型的精確性和優越性。同時，從對比結果可知，這幾種組合模型都可以有效地對多元負荷進行預測。在負荷趨勢變動不大的地方，三種組合模型的預測誤差大致相同，但是在負荷趨勢波動較大的峰谷周圍，本文模型相比于其他兩個模型可以更好地擬合負荷曲線，誤差更小。同時，由于電負荷響應極快，影響因素相對較多，導致了電負荷預測誤差相比于熱負荷和冷負荷略有增高。從預測結果還可得知，由于工作日的數據量大于休息日的數據量，因此該模型對工作日的多元負荷預測精度略高于休息日的多元負荷預測精度。

6 結論

本文利用LSTM 網絡對多元負荷進行預測，并利用GRU 網絡對預測誤差進行補償，將預測結果與誤差重構為負荷預測最終結果，可以得出如下結論。

(1) 本文提出的誤差補償模型對電負荷、冷負荷和熱負荷的預測精度提升分別為0.974%、0.878%和0.825%。

(2) 通過對比不同的預測模型與誤差補償模型，本文所提模型均具有最佳預測精度，驗證了本文模型在負荷預測方面的優越性。

(3) 本文提出的綜合能源系統多元負荷預測模型的算例數據來自美國亞利桑那州立大學創建的能源信息系統和“Campus Metabolism”網站，不存在突發事件、用電器故障或傳感器故障等因素導致的負荷數據包含噪聲的問題。在實際應用中，負荷數據可能會受到上述因素的影響而產生包含噪聲的數據，在進行訓練和預測之前需要對數據中的異常數據和缺失數據進行處理，從而提高該模型的預測精度。