基于CEEMDAN-CNN-GRU組合模型的短期負荷預測方法

萬磊　余飛　魯統偉　姚婧

摘 要：負荷數據的高度隨機性和不確定性，導致短期負荷預測的精度很難提升。為了提高短期負荷預測的準確度，提出了一種基于完全自適應噪聲集合經驗模態分解（CEEMDAN）與卷積神經網絡（CNN）和門控循環單元（GRU）組合模型的短期負荷預測方法。首先，利用CEEMDAN模型將復雜的原始負荷序列分解為幾個相對簡單的子序列;其次，利用卷積神經網絡（CNN）和門控循環單元（GRU）建立各分量預測模型，將歸一化后的分量輸入訓練模型，得到預測子序列;最后，將所有分量的結果匯總，得到最終預測結果。結果表明，與LSTM模型、GRU模型、CNN-GRU及CEEMDAN-GRU組合模型相比，CEEMDAN-CNN-GRU組合模型所測精度有了明顯提升，平均提升了25.08%，23.59%，20.41%和13.53%。CEEMDAN-CNN-GRU組合模型能夠提取歷史負荷數據中的非線性特征，有效提升短期負荷預測精度，可為電力系統建設提供有力支撐。

關鍵詞：數據處理;卷積神經網絡;互補集合模態分解;門控循環單元;負荷預測;電力系統

中圖分類號：TP399 文獻標識碼：A

Abstract： The high randomness and uncertainty of load data make it difficult to improve the accuracy of short-term load forecasting.In order to improve the accuracy of short-term load forecasting，a short-term load forecasting method based on a combined model of fully adaptive noise ensemble empirical mode decomposition （CEEMDAN），convolutional neural network （CNN） and gated recurrent unit （GRU） was proposed.First，the CEEMDAN model was used to decompose the complex original load sequence into several relatively simple sub-sequences;secondly，CNN and GRU were used to establish a prediction model for each component，and the normalized components were input into the training model to obtain the predictive subsequence.Finally，the results of all components were summarized to get the final prediction results.Experimental results show that the CEEMDAN-CNN-GRU combined model has a significant improvement in accuracy compared with the LSTM model，GRU model，CNN-GRU and CEEMDAN-GRU combined model，with an average increase of 25.08%，23.59%，20.41% and 13.53%.The CEEMDAN-CNN-GRU combined model can extract nonlinear features from historical load data，effectively improve the accuracy of short-term load forecasting，and provide strong support for power system construction.

Keywords：data processing;convolutional neural network;complementary ensemble empirical mode decomposition;gated recurrent unit;load forecasting;electric power system

負荷預測是現代電力系統中的一個重要研究內容，特別是對長期規劃、日常運行和控制而言，是電力高效運輸和分配的一個先決條件。近年來，隨著智能電網、能源互聯網的快速發展，準確的負荷預測對電網的發電控制和經濟調度具有重要意義[1]，負荷預測正成為一個重要的研究領域。

根據所涉及的時間長短，負荷預測一般分為3類：長期負荷預測、中期負荷預測和短期負荷預測[2-4]。短期負荷預測（STLF）不僅可以提高調度效率[5-6]，還可以降低運營成本，成為負荷預測中最熱門的研究課題。在過去的幾十年里，眾多專家學者致力于提出行之有效的方法和模型[7]。隨著機器學習的發展，基于機器學習方法（如人工神經網絡（artificial neural network，ANN）[8]、支持向量機（support vector machine，SVM）[9-11]等）由于其優異的擬合性能而被廣泛應用于負荷預測領域?？紤]到深度學習模型在處理復雜非線性序列的優越性能，人們將深度學習方法引入電力負荷預測領域[12]。文獻[13]針對電力系統短期負荷預測的動態非線性特點，提出了一種基于Wiener模型的短期負荷預測模型，并采用Elman遞歸神經網絡對其非線性部分進行擬合，在一定程度上提高了學習效率和預測精度。

然而，傳統遞歸神經網絡時間深度過大，隱藏層簡單，在進行誤差反向傳播時，會出現梯度爆炸或梯度消失的問題[14-15]。文獻[16]和文獻[17]提出一種基于長短期記憶神經網絡（LSTM）的電力負荷預測方法，并對某地電力負荷值進行了預測。門控循環單元（gated recurrent unit，GRU）[18]作為一種基于優化LSTM的特殊類型的循環神經網絡，在相同情況下更容易收斂，也被應用到負荷預測領域。文獻[19]提出了一種基于GRU-NN模型的短期電力負荷預測方法，基于深度學習的思想處理不同類型的負荷影響因素，引入GRU對具有時間序列特征的歷史負荷序列進行處理。然而，電力系統中不僅有時序數據，還有其他種類的高維數據，如電力系統中的時空矩陣、圖像信息等，GRU模型不能很好地處理所有這些類型的高維數據。卷積神經網絡（convolutional neural networks，CNN）是處理高維數據的理想選擇，已被廣泛應用于圖像識別和預測領域。文獻[20]提出了一種結合門控循環單元（GRU）和卷積神經網絡（CNN）的GRU-CNN混合神經網絡模型，由GRU模塊提取時間序列數據的特征向量，其他高維數據的特征向量由CNN模塊提取。由于溫度、氣候等不確定因素，導致電力負荷數據具有高度隨機性和不確定性，因此直接利用深度學習方法在原始序列上進行預測，很難達到預期精度。

為了解決上述問題，筆者提出一種基于完全自適應噪聲集合經驗模態分解（complete ensemble empirical mode decomposition with adaptive noise，CEEMDAN）的卷積神經網絡（CNN）和門控循環單元（GRU）組合模型的短期負荷預測方法（CEEMDAN-CNN-GRU）?？紤]到負荷序列可能會因隨機因素波動較大，因此該模型首先利用CEEMDAN對非平穩原始序列進行處理，將原始負荷時間序列信號分解為多個固有模式函數（IMF），與EEMD相比，CEEMDAN在保證小剩余噪聲干擾的情況下能夠節省計算時間;然后利用卷積神經網絡（CNN）和門控循環單元（GRU）建立各分量預測模型，以CNN特征進行序列表示，多層GRU進行有效學習;最后將歸一化后的分量輸入訓練模型，得到預測負荷序列。

1 模型原理

1.1 CEEMDAN

近年來，數據分解技術被廣泛運用于預測領域[21]。2011年，TORRES等[22]提出CEEMD方法，用于解決經驗模態分解（EMD）和集合經驗模態分解（EEMD）方法中模式混疊和白噪聲殘差大等問題。EMD可以通過一個篩選過程將原始時間序列分解為多個IMF，篩選過程需要多次迭代，直到符合某個停止標準，然后生成有限數量的固有模態函數。但是，EMD篩選過程中會產生模式混合的問題，為此，WU等[23]引入EEMD方法，通過在數據中加入白噪聲，從根本上解決模式混合問題。EEMD方法通過加入高斯白噪聲對序列進行分解，將高斯白噪聲添加到原始信號中，找到原始時間序列的所有極大值和極小值點，對于所有找到的極值點，使用3次樣條插值函數擬合繪制曲線，其中極大值點對應曲線的上包絡，極小值點對應下包絡，計算上下包絡線的平均值，得到等于平均值的真實結果。

與EMD相比，EEMD雖然在提高穩定性方面有了很大改進，但不能完全消除附加噪聲。TORRES等[22]基于EEMD模型進行優化，提出CEEMDAN方法，在擁有EEMD分解效果的同時，還能通過在原始信號中加入自適應白噪聲，消除模式混疊和白噪聲殘差大等問題。具體步驟如下。

2 基于CEEMDAN和神經網絡預測模型

2.1 預測模型的建立

負荷數據具有高度復雜性、隨機性和非平穩性，使用傳統預測方法會受到很大的影響和限制。電網中的負荷變化具有高度隨機性和周期性，直接對原始序列進行預測很難獲得精確的結果。作為EEMD的改進算法，CEEMDAN解決了分解信號存在的模態混疊和白噪聲問題，能夠對時間序列進行高效分解。通過CEEMDAN可將原始負荷數據分解為若干個固有模態分量（IMF）和一個殘差分量（RES），分解后的IMF分量代表不同頻率的特征信號，能夠分離出原始負荷序列中的高頻隨機特征和低頻周期特征，從而大幅提升負荷預測的精度。

CNN 作為一種處理高維數據的人工神經網絡，能進一步學習負荷序列中固有的高維隱藏特征，CNN的運用有助于過濾輸入數據的噪聲，從而提取負荷序列中有價值的特征。GRU通過優化LSTM算法，在捕獲長期依賴關系的同時，只需更少次數的訓練就能解決梯度消失和梯度爆炸的問題?？梢?，GRU在負荷預測領域有著不可忽視的優異表現。本文提出一種基于CEEMDAN的卷積神經網絡和門控循環單元相組合的神經網絡模型進行電力負荷預測。模型主要分為負荷數據預處理、CEEMDAN分解、CNN-GRU組合模型預測和預測結果融合4個主要步驟，基本流程如圖1所示。具體步驟如下。

1）對原始數據的缺省值和異常值進行預處理，剔除異常數據，將缺省數據用前后數據的均值代替，得到完整負荷數據。

2）利用CEEMDAN對原始信號數據加入成對正負高斯白噪聲來減輕模態混疊問題，從而分解成若干個本征模函數和最終殘差分量，得到分解子序列并進行歸一化處理。

3）使用CNN-GRU模型預測每個分量，依次得到分量的預測結果。其中，CNN網絡負責提取每個負荷子序列分量的內在特征，再將得到的特征向量依次輸入GRU模型，預測負荷子序列結果。

4）將每個分量的預測結果進行融合，得到最終預測結果。

CEEMDAN-CNN-GRU預測模型更關注負荷預測的精確度，模型最耗時的CEEMDAN分解部分及CNN-GRU模型訓練部分通常在離線狀態完成。大多數情況下，對于離線訓練部分算法著重關注其預測精度，而非算法復雜度;對于線上預測部分，由于模型參數已在離線狀態訓練完成，剩余工作只需利用神經網絡中的權重矩陣進行簡單的矩陣乘積運算，因而時間復雜度將大大降低。另一方面，也可在離線狀態下完成所有訓練和預測工作，將預測結果存儲到數據庫，線上只需訪問數據庫，讀取數據庫中的預測值。

2.2 負荷預測評價指標

為了評估預測模型的性能，引入平均絕對百分比誤差（MAPE）和均方根誤差（RMSE）進行結果評價，MAPE和RMSE的公式如下所示：

式中：N是訓練樣本和測試樣本的大小;yi和y︿i 分別為實際值和預測值;MAPE表示所有測試集中預測點的誤差和實際值之間比率的平均值;RMSE是預測值和實際值之間差異的樣本標準偏差。MAPE和RMSE值越小，模型的預測性能越好。

3 模型性能評估與算例分析

本文使用馬來西亞柔佛市供電公司的負荷數據和湖北電網某臺區的實際負荷數據進行實驗預測。第1個測試用例是在馬來西亞柔佛市供電公司數據集中預測一整年的連續負荷數據。該數據集中的數據每間隔1 h采樣一次，總共8 760條數據。將原始負荷數據按照8∶2的比例分成訓練集和測試集，其中前7 008條負荷數據作為訓練集，剩下1 752條數據作為測試集進行模型評估。第2個測試用例是在湖北電網實際數據中進行負荷預測，利用湖北某臺區232 d的實測負荷數據，選擇前218 d作為訓練集，最后14 d作為測試集，用MAPE和RMSE評價模型的預測效果，并與GRU和LSTM進行比較，驗證該模型的有效性。

由于原始數據的隨機性、不確定性和非平穩性，在進行CEEMDAN分解之前，要對電網的負荷序列進行預處理。由于影響電網負荷的高波動性因素較多，因而負荷數據存在一些異常點。通過剔除一些異常數據點，可以提高預測的準確性，同時利用前后數據的平均值填充缺省數據。

處理完異常數據，采用CEEMDAN方法對電力負荷曲線進行分解，在EMD基礎上加入成對的高斯白噪聲，將原始信號分解為9個IMF分量和1個殘差分量。原始加載順序如圖2所示，CEEMDAN分解的IMF分量和剩余殘差分量如圖3所示。

其中，IMF1—IMF4是序列頻率分解后的較高部分，對應電網中較快的切換負載行為; IMF5—IMF9分量是序列頻率分解后的較低部分，對應電網中較慢的開關負載行為;殘差表示從原始信號中減去 IMF1—IMF9 分量后的剩余分量。上述所有分解出的負荷子序列累加上殘差的最終值，便是原始負荷序列。

測試用例2選取湖北某臺區進行實驗，將數據按上述方法進行預處理，得到原始負荷曲線，如圖4所示，CEEMDAN分解的IMF分量和剩余殘差分量如圖5所示。由圖4和圖5可知，湖北某臺區原負荷數據波動大、隨機性高、平穩性差，在原始負荷序列中使用CNN-GRU進行預測的難度較大。而分解后的各個子序列擁有更高的平穩性，數據波動更小，使得神經網絡算法更容易擬合，預測精度得以提升。

對原負荷數據的各個子序列通過CEEMDAN分解算法，使用CNN-GRU模型進行結果預測。

首先，對原始分量數據進行最大、最小歸一化處理，設置卷積層過濾器大小為64，并以3個時間步長的內核大小讀取輸入數據。采用最大池化層，降采樣成原始特征圖大小的1/4，其中激活函數為線性整流函數（rectified linear unit，ReLU）。設置GRU模型的參數時間步長為1，即從之前的1個負荷數據中預測下一個時間的數據。在 GRU 神經網絡中使用均方誤差 （MSE） 作為損失函數，并在訓練過程中通過自適應矩估計 （Adam） 算法優化 GRU 神經網絡。通過對每個分量IMFt，it=1，2，…，k;i=1，2，…，n的預測結果和殘差項rt的預測值進行線性累加，得到最終預測結果，其中k為IMF分量的個數。

經過上述預測模型，訓練200輪后馬來西亞柔佛市供電公司負荷數據中分量1和分量2的結果如圖6、圖7所示，其中藍色代表原始負荷子序列數據，紅色代表子序列的預測結果。

由圖6和圖7可知，CEEMDAN-CNN-GRU對于電網中較快的切換負載行為有很好的擬合效果。對于總體負荷數據，通過對各個子序列的預測結果進行累加，能夠得到負荷數據的最終預測結果。本方法在負荷預測方面有著優異的表現，以MAPE和RMSE作為評價指標，對該模型與LSTM，GRU模型進行比較，結果如表1和表2所示，具體預測效果如圖8所示。

從表1和表2中可以看出，與LSTM[16]模型、GRU[18]模型、CNN-GRU[20]模型、EEMD-GRU及CEEMDAN-GRU組合模型相比，基于完全自適應噪聲集合經驗模態分解的CNN-GRU預測模型擁有更好的性能。表1顯示了基于CEEMDAN-CNN-GRU的負荷預測模型在馬來西亞柔佛市供電公司負荷數據集中與另外5種模型的精度對比，MAPE分別降低了8.00%，11.54%，7.75%，4.03%和2.13%，RMSE分別下降了5.14%，6.23%，1.69%，0.87%和0.36%。表2顯示了基于CEEMDAN-CNN-GRU的負荷預測模型在湖北某臺區數據中與另外5種模型的精度對比，MAPE分別降低了25.08%，23.59%，20.41%，16.21%和13.53%，RMSE分別下降了22.95%，22.00%，18.37%，19.07%和13.53%。

通過對GRU與CEEMDAN-GRU，CNN-GRU與CEEMDAN-CNN-GRU這2組方法的比較可知，對負荷進行CEEMDAN分解，可以減少負荷的非線性、隨機性和波動性，提高預測精度。對2組不同的測試數據集的比較可知，CEEMDAN對波動更大、樣本規模更小的數據集具有更加明顯的改進作用。同時， 在2組不同的數據集上，CEEMDAN-CNN-GRU模型都比CEEMDAN-GRU模型取得了更好的效果，利用CNN對負荷序列提取隱藏特征，能有效提升預測精度，尤其對于波動較大的小樣本數據集。

4 結 論

1）提出了一種基于完全自適應噪聲集合經驗模態分解的CNN-GRU模型，該模型在原始負荷序列中加入正負成對高斯白噪聲，將負載數據分解成為若干個IMF分量和殘差分量，有效避免了EMD可能存在的模態混疊問題，進一步降低了原始負荷序列的非平穩性。[HJ1.6mm]

2）使用CNN提取子序列中的關鍵特征，利用GRU對各個子序列進行結果預測，不僅具有遠距離歷史信息記憶能力，還具有超過LSTM的收斂速度。

3）通過對公開數據集的大量實驗，驗證了模型優異的非線性序列擬合能力，可滿足電力系統對負荷預測精度的要求，為電網調度和規劃提供理論支持。

[JP3]在實際應用中，由于負荷序列受氣溫、季節等多種因素的影響會呈現隨機性變化，因而使用單一負荷序列數據進行負荷預測會存在一定的局限性。下一步工作還需考慮外部數據的影響，在多源數據下探索進一步的研究。

參考文獻/References：

[1] 陳劍強，楊俊杰，樓志斌.基于XGBoost算法的新型短期負荷預測模型研究[J].電測與儀表，2019，56（21）：23-29.

CHEN Jianqiang，YANG Junjie，LOU Zhibin.A new short-term load forecasting model based on XGBoost algorithm[J].Electrical Measurement & Instrumentation，2019，56（21）：23-29.

[2] RAZA M Q，KHOSRAVI A.A review on artificial intelligence based load demand forecasting techniques for smart grid and buildings[J].Renewable and Sustainable Energy Reviews，2015，50：1352-1372.

[3] SUPAPO K，SANTIAGO R，PACIS M C.Electric load demand forecasting for Aborlan-Narra-Quezon distribution grid in Palawan using multiple linear regression[C]//2017 IEEE 9th International Conference on Humanoid，Nanotechnology，Information Technology，Communication and Control，Environment and Management （HNICEM）.Philippines：IEEE，2017：1-6.

[4] HERMIAS J P，TEKNOMO K，MONJE J C.Short-term stochastic load forecasting using autoregressive integrated moving average models and Hidden Markov Model[C]//2017 International Conference on Information and Communication Technologies （ICICT），Pakistan：IEEE，2017：131-137.

[5] [JP2]TAKEDA H，TAMURA Y，SATO S.Using the ensemble Kalman filter forelectricity load forecasting and analysis[J].Energy，2016，104：184-198.

[6] AL-HAMADI H M，SOLIMAN S A.Short-term electric load forecasting based on Kalman filtering algorithm with moving window weather and load model[J].Electric Power Systems Research，2004，68（1）：47-59.

[7] LYU Pin，LIU Song，YU Wengbing，et al.EGA-STLF：A hybrid short-termload forecasting model[J].IEEE Access，2020，8：31742-31752.

[8] SHEHU G S，ETINKAYA N.Flower pollination-feedforward neural network for load flow forecasting in smart distribution grid[J].Neural Computing and Applications，2019，31（10）：6001-6012.

[9] BARMAN M，dev CHOUDHURY N B.Season specific approach for short-term load forecasting based on hybrid FA-SVM and similarity concept[J].Energy，2019，174：886-896.

[10]HONG W C.Electric load forecasting by support vector model[J].Applied Mathematical Modelling，2009，33（5）：2444-2454.

[11]HU Zhongyi，BAO Yukun，XIONG Tao.Electricity load forecasting using support vector regression with memetic algorithms[J].The Scientific World Journal，2013，2013：292575.

[12]MERKEL G，POVINELLI R，BROWN R H.Deep Neural Network Regression for Short-Term Load Forecasting of Natural Gas[M].[S.l.]：International Institute of Forecasters，2017.

[13]ZHAO Feng，SU Hongsheng.Short-term load forecasting using kalman filter and elman neural network[C]//2007 2nd IEEE Conference on Industrial Electronics and Applications.Harbin：IEEE，2007：1043-1047.

[14]HOCHREITER S，SCHMIDHUBER J.Long short-term memory[J].Neural Computation，1997，9（8）：1735-1780.

[15]張冬雯，趙琪，許云峰，等.基于長短期記憶神經網絡模型的空氣質量預測[J].河北科技大學學報，2020，41（1）：66-75.

ZHANG Dongwen，ZHAO Qi，XU Yunfeng，et al.Air quality prediction based on neural network model of long short-term memory[J].Journal of Hebei University of Science and Technology，2020，41（1）：66-75.

[16]陳卓，孫龍祥.基于深度學習LSTM網絡的短期電力負荷預測方法[J].電子技術，2018，47（1）：39-41.

CHEN Zhuo，SUN Longxiang.Short-term electrical load forecasting based on deep learning LSTM networks[J].Electronic Technology，2018，47（1）：39-41.

[17]葛磊蛟，趙康，孫永輝，等.基于孿生網絡和長短時記憶網絡結合的配電網短期負荷預測[J].電力系統自動化，2021，45（23）：41-50.

GE Leijiao，ZHAO Kang，SUN Yonghui，et al.Short-term load forecasting of distribution network based on combination of siamese network and long short-term memory network[J].Automation of Electric Power Systems，2021，45（23）：41-50.

[18]CHUNG J，GULCEHRE C，CHO K，et al.Empirical Evaluation of Gated Recurrent Neural Networks on Sequence Modeling[DB/OL].[2021-11-30].https：//arxiv.org/abs/1412.3555.

[19]王增平，趙兵，紀維佳，等.基于GRU-NN模型的短期負荷預測方法[J].電力系統自動化，2019，42（5）：53-58.

WANG Zengping，ZHAO Bing，JI Weijia，et al.Short-term load forecasting method based on GRU-NN model[J].Automation of Electric Power Systems，2019，43（5）：53-58.

[20]SAJJAD M，KHAN Z A，ULLAH A，et al.A novel CNN-GRU-Based hybrid approach for short-term residential load forecasting[J].IEEE Access，2020，8：143759-143768.

[21]沈富鑫，邴其春，張偉健，等.基于CEEMD-GRU組合模型的快速路短時交通流預測[J].河北科技大學學報，2021，42（5）：454-461.

SHEN Fuxin，BING Qichun，ZHANG Weijian，et al.Short-term traffic flow prediction of expressway based on CEEMD-GRU combination model[J].Journal of Hebei University of Science and Technology，2021，42（5）：454-461.

[22][JP2]TORRES M E，COLOMINAS M A，SCHLOTTHAUER G，et al.A complete ensemble empirical mode decomposition with adaptive noise[C]//2011 IEEE International Conference on Acoustics，Speech and Signal Processing （ICASSP）.Prague Czech Republic：IEEE，2011：4144-4147.

[23]WU Z H，HUANG N E.Ensemble empirical mode decomposition：A noise-assisted data analysis method[J].Advances in Adaptive Data Analysis，2009，1（1）：1-41.