基于PSO-LSTM的電力負荷預測模型

0 引言

隨著社會的高速發展，精準的短期電力負荷預測越來越重要。短期電力負荷的準確預測不僅對電網規劃和電力系統安全經濟運行有不可替代的作用，而且對減少發電成本、提高用電質量和市場規劃等方面也有重要作用。短期電力負荷預測是指對未來幾小時或幾天的負荷進行預測。電力負荷的變化規律因受到氣象、節假日等多種因素的影響，導致負荷的隨機性和波動性較大，并且需要輸入的模型參數較多，使用傳統的預測方法難以勝任。

判決的那天，刑警隊的幾個警察來到賈鵬飛的關押地，向他出示了一張范崢崢的照片，問這是否是他的妻子，警察說她跳崖了。

在負荷預測方面，國內外的學者做了很多研究，傳統方法有時間序列、自回歸模型、神經網絡、支持向量機等方法。張宗華等

提出的反向傳播(BP)神經網絡模型能夠加快神經網絡的收斂速度,同時提高預測精度

。艾欣

、李震

等將自回歸積分滑動平均模型(ARIMA)應用于電力負荷預測。胡雨沙等

提出將粒子群優化算法(PSO)和最小二乘支持向量機(LSSVM)相結合的短期電力負荷預測方法(PSO-LSSVM)。魏明奎等

提出了基于PSO優化的自組織特征映射網絡(SOFM)和遺傳算法(GA)優化的LSSVM的短期電力負荷預測方法

。雖然這些方法能夠解決非線性的問題，但是在處理時間序列的時候容易出現問題，并且在預測隨機性較大的負荷時精度比較低。

隨著深度學習的出現，很多學者把目光轉向了深度置信網絡、卷積神經網絡、循環神經網絡等?？紫橛竦?/p>

充分利用深層架構的特征提取優勢，提出了一種采用深度學習的暫態穩定評估方法。王剛等

提出了基于深度學習與權值共享機理的負荷預測方法，該方法有效提高了工業園區負荷預測的精度。王文卿等

提出了一種自編碼器與粒子群優化算法優化卷積神經網絡的短期負荷預測模型，用自編碼器對卷積神經網絡的輸入數據進行處理，通過PSO算法對卷積神經網絡進行優化，提高了預測精度。深度學習在大量數據的預測方面有著明顯的優勢，但是在處理時間序列預測的時候容易出現梯度爆炸的問題，導致預測的精度下降。

針對梯度問題，有學者提出了長短期記憶(LSTM)算法來解決梯度爆炸。N Neeraj等

提出了一個新的模型——奇異譜分析-長短時記憶(SSA-LSTM)來解決觀測數據的不規則和噪聲特性問題。Tan M等

提出了一種基于LSTM網絡的混合集成學習預測模型，將其用于超短期工業電力需求預測。LSTM是一種神經網絡算法，其超參數大多依靠經驗選擇，不僅耗時，而且所選擇的超參數可能不是最優，從而導致預測結果不理想。本文采用PSO算法對LSTM的超參數進行尋優，訓練模型，找到合適的超參數，并進行驗證。

作為公路管理站橋梁工程師，王世君負責對全縣省道及縣道上的橋梁狀況作經常檢查及定期檢查，工作條件非常艱苦，常常頂寒風、冒酷暑，精心檢測，發現病害及時處理、上報，在他的任職期間，未發生一起因橋梁問題導致的責任事故。

同時抓住平山西柏坡這一紅色革命圣地特點，指導平山縣圖書館加強文獻采訪工作，尤其是與平山、西柏坡有關的紅色文獻的征集與服務。為其提供省地方文獻查詢和燕趙紅色記憶館文獻目錄查詢，并指導其多途徑檢索國家中心書目中心數據，豐富采訪信息來源渠道。

1 LSTM神經網絡算法

LSTM作為RNN的一種特殊形式，為了解決RNN梯度 爆 炸的問題

，首先由Hochreiter等 在1997年提出，如今在時間序列數據的預測應用十分廣泛。

1.1 LSTM網絡結構參數

德國ETAS（易特馳）集團為客戶提供用于汽車電控單元（ECU）開發和維護的各種集成工具和解決方案。作為一流的工具供應商，易特馳始終提供創新、高質量的產品，并針對ECU生命周期的各個階段提供解決方案。該公司2005年進入中國，為中國本土客戶提供全方位的服務以及個性化的解決方案。

LSTM的結構如圖1所示，與普通的RNN相比，LSTM的結構更加復雜，它將RNN中每個神經元的單層網格換成了四層網格。圖中的σ和tanh分別代表Sigmoid函數和Tanh函數，起到閘門的作用，它們決定著上一時刻的負荷信息向前傳遞時所占的比重。激活函數的值越接近1，上一時刻的負荷信息向前傳遞得越多；激活函數越接近0，上一時刻的負荷信息向前傳遞越少。

LSTM網絡主要由三個門控單元控制，細胞狀態C

相當于信息傳輸的路徑，通過Sigmoid函數和Tanh函數控制當前輸入的電力信息和細胞記憶中電力信息的選擇與丟棄。在t時刻，細胞單元（當前神經元）的輸入包括當前時刻輸入變量X

、前一時刻隱藏層狀態變量h

和前一時刻細胞單元狀態變量C

。依次經過f

、i

和o

之后，細胞單元的輸出包括當前時刻輸出變量h

和當前時刻細胞單元狀態變量C

。

俗話說“授人以魚不如授人以漁”，教師在閱讀教學中應該注重講解分析過程而不是分析結果，只有讓學生學會分析文章，學生在課外進行自主閱讀水平才能得以提升。因此，教師在教學時為了讓學生理解分析過程，在課堂中學會自主分析，可以通過任務驅動法幫助學生進行理解。在講解文章時，教師可以先讓學生進行自主思考，將課堂交給學生，為了督促學生自主學習，教師可以設計幾個問題。在學生自主思考之后便通過師生互動環節了解學生的自主學習情況。最后根據學生的反饋信息調整教學過程，對閱讀技巧進行針對性講解，幫助學生查漏補缺。通過這樣的方式可以提高課堂教學效率并且促進學生思維能力的發展，提高學生的自主學習能力。

各個門控單元通過計算初始權重和偏置矩陣得到它們所需負荷信息的占比，再根據損失函數調整得到最優的權重矩陣和偏置矩陣，得到最終的負荷信息占比。

1.2 LSTM超參數

神經網絡模型在網絡結構參數之外，還包括大量的超參數（hyper-parameters）。超參數是指模型在開始訓練之前設定的參數，訓練過程中始終保持不變。通常情況下，根據模型結果調整超參數，獲得一組最優超參數，提高模型的效果和性能。

為了分析LSTM算法的性能，本文采用北京市某區的居民生活用電以及工業用電等總電力負荷作為數據樣本，記錄了每天24小時的實際電力消耗。本文選取2017年第一季度的數據作為樣本數據，對原始數據進行異常數據處理和歸一化處理。一方面對不合理數值或者空值采用平均值代替；另一方面，為了消除數值差異過大的問題，采用最大最小歸一化方法使其處于同一數量級。

2 PSO-LSTM負荷預測模型

2.1 PSO算法

5)比較粒子的適應度值。尋找個體最優位置和全局最優位置，更新最優的適應度值。

PSO算法是模擬大自然鳥群覓食行為得出的一種全局尋優算法。將全局中的每一個可能都看作一個粒子，每個粒子都有不同的運動方向和速度，朝著最優位置前進。通過更新個體最優位置和全局最優位置，得到目標函數的最優解，從而實現全局尋優

。本文把PSO與LSTM算法相結合，構建了PSO-LSTM預測模型。

網絡仿真場景中，數據中繼衛星為1顆GEO衛星，用戶衛星包括N=6,12,18顆軌道高度為300km的LEO衛星三種情況.其中，三種不同LEO用戶衛星數量情況下，LEO用戶衛星的升交點赤經(Right Ascension of Ascending Node，RAAN)依次分別間隔5°，10°和15°.為分析方便，其余軌道參數均設置為0.設用戶衛星數據幀產生時間服從泊松分布.根據第三節的分析，選取時隙大小為0.28s，具體參數如表1所示.

2.2 PSO-LSTM負荷預測模型

本文將PSO與LSTM神經網絡結合的方法是把LSTM的三個關鍵超參數（神經元數量L

，學習率ε和訓練迭代次數k）作為PSO粒子的尋優變量，通過更新粒子的速度和位置，從而使負荷預測的適應度值達到最低，獲得更優的模型參數。PSO優化LSTM模型參數的流程圖如圖2所示。

1)預處理電力負荷歷史數據。剔除其中有明顯偏差和有問題的數據，將數據進行歸一化，縮放到同一區間。

2)建立LSTM模型。確定需要尋優的參數，神經元數量L

，學習率ε和訓練迭代次數k，并確定它們各自尋優的范圍。

3)初始化PSO參數。包括粒子的初始速度和位置，學習權重，訓練次數和規模等。

將LSTM的3個超參數作為PSO的待優化參數，適應度函數設置為

由于電力負荷的歷史數據是一個時間序列數據，LSTM模型在時間序列的分析中表現優異。而LSTM算法中的超參數對負荷預測的準確性有很大的影響。本文用PSO對LSTM的超參數進行尋優，并在負荷預測時更新其相應的數值。

在本研究中，我們以高表達her-2的NCI-N87胃癌細胞株為研究對象，通過研究不同濃度的槐耳清膏在處理細胞不同時間后，對NCI-N87細胞增殖、凋亡及相關自噬蛋白表達的影響。

6)判斷是否達到最大迭代次數。如果達到最大迭代次數，將得到的最優參數傳給LSTM模型，并進行訓練和預測。若未達到要求，則返回步驟(5)。

3 電力負荷預測

3.1 電力負荷數據預處理

常見的超參數包括學習率、訓練次數、神經元個數、輸出維度等。其中，學習率表示梯度下降算法中的步長，如果學習率過高會導致網絡震蕩，找不到最優結果，學習率太小會導致學習的時間增加，學習率的大小一般在0.01~0.001之間進行調整。其次，訓練次數是通過學習率來調整網絡權重的次數，訓練次數少會得不到理想的效果，訓練次數過多會造成資源的浪費。在本文中需要調節的超參數包括神經元數量L

，學習率ε和訓練次數k。

設X

和X

分別是指標X的最小值和最大值，最大最小歸一化是將X的每一個原始值x通過線性化的方法變換為區間[0,1]的值x

，如式(1)：

從處理完的數據中選擇2017年1月1日到2017年3月30日的數據用作訓練集，訓練獲得最優超參數；使用3月31日的數據作為測試集，驗證預測結果的有效性。

網絡結構參數，是在訓練過程中通過損失函數反饋后進行調整的參數。在LSTM網絡中需要調整的網絡結構參數，即權重矩陣和偏置矩陣，主要存在于遺忘門f

、輸入門i

和輸出門o

三個門控單元中。

3.2 PSO-LSTM負荷預測模型

4)確定粒子的適應度函數。本文將預測模型的MAPE值作為粒子的適應度函數，尋找最優模型參數。

其中平均絕對百分比誤差（MAPE）是指用電量真實值和預測值之間的百分比誤差的平均值：

談到與拍攝對象建立的關系時，Réhahn絕對是身體力行的攝影師，他和當地許多人成為了朋友，甚至“親如一家”。他會定期造訪，或邀請人們到家中做客。作為工作的一部分，他在靠近老撾邊境的越南西江地區為戈都族建造了一座文化博物館，所用資金全部來自他在畫廊的銷售所得。他還資助了當地幾個兒童的教育，并為居民支付醫療保健費用，或者購買船只、自行車、奶?；蛘障鄼C來幫助人們謀生。

式（3）中，Y

代表負荷的實際值，Y

代表負荷的預測值，n表示預測負荷點的個數。同時，設置種群規模為20個，最大迭代次數設50次，學習因子c

=2，c

=2。LSTM超參數的設置范圍如表1所示。

式中，Fj為水資源承載力指數，Fj＞1表示實際承載的農業經濟規模大于水資源可承載的最大農業經濟規模，表現為水資源超載；Fj=1，表示實際農業經濟規模等于最大可承載農業經濟規模，水資源承載平衡；Fj＜1，表示實際承載的農業經濟規模小于水資源可承載的最大農業經濟規模，水資源承載力有盈余。

尋優過程中得到的適應度和超參數變化曲線圖如圖3所示。從圖3(a)可以看出，適應度曲線在迭代9次趨于穩定，可以得到最優的超參數。從圖3(b)中可以看出在尋找最優神經元數量的過程中只有一次波動，最優的神經元個數為265。從圖3(c)中可以看出前期在尋優過程中經過兩次波動，最終得到的學習率為0.0063。從圖3(d)中可以看出訓練次數的尋優過程相對簡單，結果為823。

3.3 負荷預測結果分析

為了直觀地比較PSO-LSTM與傳統的LSTM和BP神經網絡預測方法的準確程度，將這三種方法對未來一天的預測值和真實值結果進行比較，如圖4所示。

從圖4中比較可以看出，負荷曲線包括兩峰兩谷：在凌晨00:00-6:00，負荷到達第一個低谷，經過一夜的休整，新的一天開始，對電負荷的需求開始增加；在中午12:00左右，用電量達到一天中的第一個峰值，此時是大部分人中午用餐或者休息的時間，居民或者是工廠用電都進入了短暫的休息期，對電負荷的需求量開始降低；在下午14:00左右，用電量到達第二個低谷，此時短暫的休息時間結束，大部分人繼續工作，對電負荷的需求變大；到晚上22:00左右，用電量達到了第二個峰值，這時大部分人已經下班，或者開始休息，對電負荷的需求開始減少。由圖4可見，三種方法都可以預測負荷的變化趨勢，但是在上午、中午和晚上等用電量轉折點的時候，本方法預測的精度更高一些，能預測出電負荷變化的趨勢，并且與真實數據的峰谷值更加接近。BP神經網絡法和LSTM方法預測的負荷值雖然與真實數據相差不大，但是，在峰谷值的時候預測的精度低于本文方法的準確度。

為了進一步評估所提模型的預測性能，本文把三種方法的平均絕對百分誤差(MAPE)和均方根誤差(RMSE)作為參考指標，其中MAPE如式（3）所示，RMSE指標的計算如式（4）所示：

式中，Y

代表負荷的實際值，Y

代表預測的負荷值，n表示預測負荷點的個數。

所預測結果的MAPE和RMSE越小，證明所提出的預測方法越好。三種方法預測的MAPE和RMSE如表2所示。

從表2數據可以更加直觀地看出三種方法的預測準確性。預測精度從高到低分別為PSO-LSTM、LSTM、BP，表明經過PSO優化的LSTM模型的預測值和真實值之間的差值最小。PSO-LSTM的MAPE值為1.73%，RMSE值為12.17，相比于BP神經網絡方法，MAPE的值降低了1.67%，RMSE的值降低了17.95，說明PSO-LSTM的預測值和真實值更加接近，能提高負荷預測的精度；相比于LSTM方法，MAPE值降低了0.64%，RMSE值降低了11.93，說明PSO算法可以提高LSTM對超參數的尋優能力，模型的預測性能明顯提升。

4 結論

針對電力負荷預測問題，本文提出PSO-LSTM模型對電力負荷進行預測。利用PSO算法可以有效尋找全局最優解的特點對LSTM網絡的超參數進行優化，可以避免人為選擇參數造成的LSTM模型參數不是最優的問題，減少人為因素對模型精度的影響。在負荷預測的時候，對電力負荷進行實時更新，能夠及時調整LSTM網絡結構參數的權重。從仿真結果可以得出，與BP神經網絡和傳統的LSTM神經網絡相比，基于PSO優化的LSTM模型能夠明顯提高短期負荷預測的精確度和準確性。使用北京市某區的電力負荷的數據對所提出模型進行檢驗，得出本文模型的平均絕對誤差百分比為1.73%，小于2%，證明了本文方法的有效性和實用性。

[1]張宗華，趙京湘，盧享，等.基于遺傳算法的BP神經網絡在電力負載預測中的應用[J].計算機工程，2017，43(10):277-282+288.

[2]艾欣，周志宇，魏妍萍，等.基于自回歸積分滑動平均模型的可轉移負荷競價策略[J].電力系統自動化，2017，41(20):26-31+104.

[3]李震，張思，任嫻婷，等.基于數據驅動的線性聚類ARIMA長期電力負荷預測[J].科學技術與工程，2020，20(16):6497-6504.

[4]胡雨沙，李繼庚，洪蒙納，等.基于PSO-LSSVM算法的造紙過程短期電力負荷預測模型[J].中國造紙學報，2019，34(1):50-54.

[5]魏明奎，葉葳，沈靖，等.基于自組織特征神經網絡和最小二乘支持向量機的短期電力負荷預測方法[J].現代電力，2021，38(1):17-23.

[6]孔祥玉，鄭鋒，鄂志君，等.基于深度信念網絡的短期負荷預測方法[J].電力系統自動化，2018，42(5):133-139.

[7]王剛，楊曉靜，張志軍，等.基于深度神經網絡與權值共享的工業園區負荷預測.電測與儀表，2021，58(1):137-141.

[8]王文卿，撖奧洋，于立濤，等.自編碼器與PSOA-CNN結合的短期負荷預測模型[J].山東大學學報(理學版)，2019，54(7):50-56.

[9]N Neeraj，Mathew J，Agarwal M，et al.Long short-term memory-singular spectrum analysis-based model for electric load forecasting[J].Electrical Engineering，2020(1):1-16.

[10]Tan M，Yuan S，Li S，et al.Ultra-Short-Term Industrial Power Demand Forecasting Using LSTM Based Hybrid Ensemble Learning[J].IEEE Transactions on Power Systems，2020，35(4):2937-2948.

[11]Hochreiter S，Schmidhuber J.Long Short-Term Memory[J].Neural Computation，1997，9(8):1735-1780.

[12]宋剛，張云峰，包芳勛，等.基于粒子群優化LSTM的股票預測模型[J].北京航空航天大學學報，2019，45(12):2533-2542.