基于生物進化的可恢復回聲狀態網絡模型

王怡鷗， 丁剛毅， 劉天元， 蒙軍， 沈晨

(北京理工大學 軟件學院 數字表演與仿真技術實驗室，北京 100081)

?

基于生物進化的可恢復回聲狀態網絡模型

王怡鷗， 丁剛毅， 劉天元， 蒙軍， 沈晨

(北京理工大學 軟件學院 數字表演與仿真技術實驗室，北京 100081)

為解決回聲狀態網絡儲備池在遭受隨機故障和蓄意攻擊等復雜情況下的適應性問題，提出了一種具有生物進化特征的可恢復回聲狀態網絡—3DP-RESN. 基于優先匹配的復制、新增加連接的變異和新增加連接的死亡進化策略，3DP-RESN能夠實現從被破壞的網絡拓撲中自恢復. 將3DP-RESN、傳統ESN(CESN)和被破壞的ESN(DESN)應用于NARMA系統、Henon映射和figure8這3種非線性時間序列逼近任務. 實驗結果表明，當儲備池發生故障時，3DP-RESN對于3種時間序列的預測精度明顯優于DESN，接近甚至高于未遭受儲備池故障的CESN，尤其在figure8實驗中，3DP-RESN 與CESN、DESN相比，預測精度分別提高了30.56%和7.01%. 此外，3DP-RESN的短期記憶能力也接近于CESN，因此，3DP-RESN具有強大的自適應恢復能力.

回聲狀態網絡；生物進化；可恢復能力；時間序列預測

遞歸神經網絡(recurrent neural networks， RNN)是一種有效的非線性逼近方法，但是RNN訓練方式過于復雜，通常會出現慢收斂、過擬合和局部最優解等問題. 針對RNN中存在的問題，Jaeger提出了一種改進的遞歸神經網絡結構—回聲狀態網絡(echo state networks， ESN)[1]，其核心是一個由大量隨機稀疏連接神經元組成的儲備池. 對比BP神經網絡等[2-3]傳統神經網絡，ESN的儲備池規模相對較大，通常擁有幾十、幾百甚至上千個神經元，因此ESN具備強大的非線性映射能力. 目前，ESN被廣泛應用于許多領域，如情感識別[4]、煤氣預測[5]、風力預測[6]、光譜預測[7]、污水處理的跟蹤控制[8]等. 雖然已有大量文獻提出了關于經典ESN的改進算法[9-12]，但是，在這些ESN的改進算法中，多數研究者將注意力放在了儲備池拓撲結構設計、神經元類型的選擇和線性回歸效果的改善上，到目前為止，很少有關于儲備池恢復機制研究的相關報告和文獻出現. 實際上，儲備池和因特網、交通網絡、生物網絡等復雜網絡拓撲結構一樣，需要具備很強拓撲魯棒性，其網絡拓撲結構的可恢復性嚴重影響著網絡性能. 當遭遇攻擊或運行出錯的時候，儲備池性能將嚴重惡化，甚至可能導致整個ESN運行的中斷[13-14]，ESN健壯性問題限制了其在實際工程中的應用.

從自然選擇的角度來看，再生、變異和死亡可以體現生物進化的內在機制[15-19]，本文將該生物進化機制引入ESN儲備池恢復過程中，從而使得當儲備池遭受惡意攻擊或隨機故障時，儲備池能夠自適應地恢復至原來的非線性逼近能力.

1 可恢復回聲狀態網絡模型

不同于Jaeger等[1]提出的隨機ESN及其改進模型，本文提出了一種可恢復的回聲狀態網絡模型(restorable echo state network， RESN). RESN的結構由3層組成：一個輸入層，一個可再生的進化狀態儲備池和一個輸出層. 當遭受隨機故障和惡意攻擊時，RESN有重建儲備池規模的能力. 在儲備池規?；謴蜖顟B中，RESN儲備池具有優先復制(preferential duplication)、變異(divergence)和死亡(death)的聯合自然進化特征，因此稱其為“3DP-RESN”.

許多研究表明，包括基因調控網絡在內的很多生物網絡都可以通過復雜網絡建模實現. 本文應用生物進化理論，重構隨機連接儲備池的網絡拓撲結構，圖1給出了基于3DP生物進化機制的RESN模型(3DP-RESN).

1.1 神經元復制

當回聲狀態網絡儲備池拓撲結構受到隨機故障或者外部攻擊時，被破壞的神經元將從整個儲備池拓撲結構中移除，包括該神經元所擁有的連接(見圖1 (b))，此時，回聲狀態網絡無法正常工作. 3DP-RESN去除被破壞的神經元，并在剩余神經元中隨機選擇一個神經元i進行復制，得到的新神經元將連接到與原來神經元i相連的所有神經元上(見圖1(c)).

該復制操作反復執行，直到被破壞的儲備池恢復到原來的規模. 采用優先復制策略，即度大的神經元被優先選擇復制，其復制概率p1表示為

(1)

式中ki表示神經元i的度的大小.

1.2 變 異

從生物進化的角度來看，變異意味著遺傳物質的改變，這在生物網絡中是一種非常關鍵的進化機制，可以有效地抑制負關聯性. 為了實現方便，在變異過程中，只考慮復制過程中新增加連接的變異(見圖1(d))，即新增神經元連接權值的改變，如式(2)所示為

(2)

式中：p2表示神經元之間連接變異概率；p3表示變異因子，變異因子決定了連接權值變化方向；r1、r2是隨機數，且r1∈(0，1)，r2∈(0，1). 可以看出，當p2r1且p3≥r2時，連接權值發生變異，且連接權值趨向于變的更??；當p2>r1且p3

1.3 死 亡

為了確保儲備池的稀疏性，需要執行生物進化理論中的死亡機制，也就是將新增加的一部分連接權值以死亡概率p4設置為0(見圖1(e))，表示為

(3)

式中，r3是隨機數且r3∈(0，1). 可以看出，當p4

RESN的具體訓練過程如下.

① 構建一個回聲狀態網絡，Win、W、Wback通過隨機方式產生，譜半徑滿足λmax∈(0，1)以保證回聲狀態性能，同時選擇S型函數作為神經元激勵函數；

② 隨機攻擊部分儲備池內部神經元，則被破壞的神經元將從整個儲備池拓撲結構退出，同時自適應解除被破壞神經元與其他神經元的連接；

③ 在剩余儲備池拓撲結構中，以概率p1選擇一個神經元進行復制，復制后的新節點將與原來節點的全部鄰居相連，重復復制操作直到儲備池恢復到原來未被破壞時的規模；

④ 以概率p2改變新增加連接的權值；

⑤ 以概率p4刪除新增加的連接. 至此得到了對儲備池進行恢復之后的3DP-RESN的網絡模型.

2 實驗仿真與性能評估

下面驗證3DP-RESN的恢復能力，即檢驗其能否從被破壞狀態恢復至未被破壞時的預測精度. 實驗使用Matlab語言，通過執行176次獨立的實驗仿真，將不同迭代次數的3DP-RESN、傳統回聲狀態網絡(classical echo state network， CESN)和遭受破壞的回聲狀態網絡(destroyed echo state network， DESN)應用于3種典型非線性時間序列——NARMA系統、Henon混沌映射和figure8識別任務)，并比較預測結果. 實驗參數配置如表1所示.

表1 實驗參數配置

采用標準均方根誤差(normalized root mean square error， NRMSE)度量3DP-RESN模型的預測精度，即

(4)

2.1 NARMA系統

NARMA系統(即非線性自回歸滑動平均)是一種離散時間系統，其當前輸出依賴于歷史輸入/輸出值. 圖2給出了儲備池規模為100時，3DP-RESN、CESN、DESN對于10步NARMA系統的預測性能，其預測精度依賴于復制概率p1，變異概率p2∈[0，0.3]和死亡概率p4∈[0.4，0.6]，且p2和p4的變化步長均為0.02. 從圖2可以看出，存在很多3DP-RESN的NRMSE值位于CESN的NRMSE值以下，這說明3DP-RESN的預測精度優于CESN，3DP-RESN實現了從被破壞回聲狀態網絡DESN的自適應恢復.

表2給出了不同評估模型的預測精度對于輸入尺度的敏感程度，其中參數設置為：N=100，p2=0.20，p4=0.55. 從表2可以看出，對于不同的輸入尺度，提出的3DP-RESN的預測精度同樣優于CESN，也就是說3DP-RESN在一定程度上防止了由于故障和攻擊造成的CESN預測性能退化.

表2 不同模型不同輸入尺度對于NARMA系統預測精度的比較

Tab.2 Comparison of prediction accuracy of different models with different input scales on NARMA system

輸入尺度CESNDESN3DP-RESN0.10.12700.22490.12070.20.12650.22390.11160.30.13130.22710.13000.40.14300.23090.14610.50.15790.23450.14250.60.17320.23840.15090.70.19660.24690.18350.80.21930.26250.16540.90.23250.29650.20181.00.24210.35740.2103

2.2 Henon映射

Henon映射混沌過程是一種離散動態系統，且具有奇異吸引子的二維映射. 同樣，根據(p2，p4)的迭代變化，圖3給出了當儲備池規模為100時，3DP-RESN、CESN、DESN對于Henon混沌映射的預測精度. 對于Henon映射，圖3中大多數3DP-RESN的σNRMSE在CESN誤差曲線附近波動，說明當CESN遭受故障時，3DP-RESN可以恢復其非線性逼近能力.

表3給出了不同模型對于Henon映射在不同噪聲標準差ν環境的預測精度，3DP-ESN的進化參數被設置為p2=0.2，p4=0.4. 由表3可以發現，對于具有不同噪聲標準差ν的Henon映射，3DP-ESN都具備強大的恢復能力.

表3 在不同的噪聲v條件下不同模型對于Henon映射預測精度的比較

Tab.3 Comparison of prediction accuracy of different models for different noisesvon Henon map

νCESNDESN3DP-RESN00.00130.00470.00020.0010.00280.00550.00260.0020.00490.00670.00490.0030.00710.00910.00680.0040.00910.01140.00890.0050.01150.01280.01070.0060.01340.01560.01330.0070.01560.01740.01500.0080.01790.02060.0183

2.3 Figure 8識別

在Figure8識別任務中，進一步評估CESN、DESN和3DP-RESN對于學習復雜序列模式的有效性. 圖4給出了不同模型產生的Figure8軌跡圖.

當遭受故障和攻擊時，回聲狀態網絡對Figure8的識別能力大大下降(見圖4(b)). 而通過基于生物進化的儲備池恢復機制，3DP-RESN可以對Figure8圖形進行恢復，得到圖4(c). 圖4(c)相似于回聲狀態網絡未遭受故障和攻擊時CESN產生的Figure8圖形(見圖4(a)). CESN、DESN和3DP-RESN的NRMSE分別為：0.427 2，0.662 7和0.357 1. 很明顯，3DP-RESN不僅實現了從被破壞ESN的性能恢復，且提高了7%的逼近精度. 結合圖5可以看出只要3DP-RESN的進化參數設置合理，3DP-RESN就可以實現從DESN的性能恢復.

2.4 3DP-RESN記憶能力評估

Jeager教授[1]定量分析了經典回聲狀態網絡的短期記憶能力(memory capacity， MC). 他認為短期記憶能力指的是ESN能夠恢復網絡輸入的能力. 這里，假設回聲狀態網絡由一個獨立同分布的輸入流驅動. 對于一個給定的延遲k來說，當輸入流…u(t-1)u(t)注入到ESN儲備池時，ESN的k-延遲記憶能力表示為

(5)

式中Cov和Var分別表示協方差和方差. 那么，ESN的短期記憶能力MC表示為

(6)

圖6給出3個模型的遺忘曲線及其相應MC值，其中L為平方相關系數，即式(5)中的MCk. 提出的3DP-RESN被訓練能夠記憶k(k=1，2，…，40)個輸入延遲單元. 實驗參數配置：1個輸入單元，100個線性儲備池內部單元和100輸出單元(每個k對應一個輸出單元)，3DP-RESN進化參數p2=0.4，p4=0.56. 這里，輸入信號服從[0，0.5]的均勻分布.

從圖6可知，當ESN發生故障或遇到攻擊時，記憶能力急劇下降(見圖6(b))，MCDESN=27.4. 3DP-RESN可以恢復被破壞ESN的記憶能力，MC3DP-RESN=33.6，該值與未遭受破壞的CESN的短期記憶能力MCCESN=32.6非常相近.

3 結 論

提出了一種基于生物進化理論的儲備池恢復機制:3DP-RESN. 利用增量增長原則，建立新型狀態儲備池，該儲備池具有以下幾種自然進化特征：基于優先匹配的復制；新增加連接的變異；新增加連接的死亡. 本文將3DP-RESN應用于NARMA系統、Henon映射和Figure8識別3種非線性時間序列，實驗表明，提出的3DP-RESN能夠精確逼近復雜的非線性動態系統，即可以從被破壞的經典ESN中恢復甚至超越其原有預測精度. 同時從短期記憶能力的角度對3DP-RESN進行評估，同樣驗證了其良好的恢復性能.

[1] Jaeger H. The echo state approach to analyzing and training neural networks[C]∥German Nat. Res. Inst. Inform. Technol. Sankt Augustin， Germany: [s.n.], 2002:148.

[2] 殷高方，張玉鈞，胡麗，等.BP神經網絡水華預測模型的敏感性分析[J].北京理工大學學報，2012，32(12):1288-1293.

Yin Gaofang, Zhang Yuyun, Hu Li, et al. Sensitivity analysis of BP neural network for algal bloom prediction mode[J]. Transactions of Beijing Institute of Technology, 2012,32(12):1288-1293. (in Chinese)

[3] 金福生，牛振東，吳璠，等.基于BP神經網絡的信譽欺騙檢測模型[J].北京理工大學學報，2012，32(1):62-66，94.

Jin Fusheng, Niu Zhendong, Wu Fan, et al. A cheating detection model for reputation system based on BP neural network[J]. Transactions of Beijing Institute of Technology, 2012,32(1):62-66,94. (in Chinese)

[4] Trentin E， Scherer S， Schwenker F. Emotion recognition from speech signals via a probabilistic echo-state network[J]. Pattern Recognition Letters， 2015，66：4-12.

[5] Zhang L M， Hua C C， Tang Y G, et al. Ill-posed echo state network based on L-curve method for prediction of blast furnace gas flow[J]. Neural Processing Letters，2016，43(1):97-113.

[6] Xu X M， Niu D X， Fu M， et al. A multi time scale wind power forecasting model of a chaotic echo state network based on a hybrid algorithm of particle swarm optimization and tabu search[J]. Energies，2015，8(11):12388-12408.

[7] Yang L， Liang X D， Ma T， et al. Spectrum prediction based on echo state network and its improved form[C]∥2013 5th International Conference on Intelligent Human-Machine Systems and Cybernetics. Hangzhou， China: IEEE，2013:172-176.

[8] Bo Y C， Qiao J F. Heuristic dynamic programming using echo state network for multivariable tracking control of wastewater treatment process[J]. Asian Journal of Control，2015，17(5):1654-1666.

[9]Wang H S， Yan X F. Optimizing the echo state network with a binary particle swarm optimization algorithm[J]. Knowledge-Based Systems， 2015，86:182-193.

[10] Sun X， Cui H， Liu R， et al. Modeling deterministic echo state network with loop reservoir[J]. Journal of Zhejiang University Science C， 2012，13(9):689-701.

[11] Rodan A， Tino P. Minimum complexity echo state network[J]. IEEE Transactions on Neural Networks， 2011，22(1):131-144.

[12] Cui H Y， Feng C， Chai Y， et al. Effect of hybrid circle reservoir injected with wavelet-neurons on performance of echo state network[J]. Neural Networks， 2014，57:141-151.

[13] Jalili M. Error and attack tolerance of small-worldness in complex networks[J]. Journal of Informetrics，2011，5(3):422-430.

[14] Ghedini C G， Ribeiro C H. Rethinking failure and attack tolerance assessment in complex networks[J]. Physica A: Statistical Mechanics and Its Applications，2011，390(23):4684-4691.

[15] Wittkopp P J， Kalay G. Cis-regulatory elements: molecular mechanisms and evolutionary processes underlying divergence[J]. Nature Reviews Genetics，2012，13(1):59-69.

[16] Xu G， Guo C， Shan H， et al. Divergence of duplicate genes in exon-intron structure[J]. Proceedings of the National Academy of Sciences，2012，109(4):1187-1192.

[17] Peter I S， Davidson E H. Evolution of gene regulatory networks controlling body plan development[J]. Cell，2011，144(6):970-985.

[18] Gagnon A I， Blanchet F C M， Rochette S， et al. Transcriptional divergence plays a role in the rewiring of protein interaction networks after gene duplication[J]. Journal of Proteomics， 2013，81:112-125.

[19] Zomorrodi A R， Suthers P F， Ranganathan S， et al. Mathematical optimization applications in metabolic networks[J]. Metabolic Engineering， 2012，14(6):672-686.

(責任編輯：劉芳)

Restorable Echo State Network Based on Biological Evolution

WANG Yi-ou， DING Gang-yi， LIU Tian-yuan， MENG Jun, SHEN Chen

(Digital Performance and Simulation Technology Lab.， School of Software，Beijing Institute of Technology， Beijing 100081， China)

To solve adaptability problems of the reservoirs of echo state network in complicated conditions, such as suffering from random faults and deliberate attacks, a restorable echo state network with biological evolution characteristics—3DP-RESN was proposed. The 3DP-RESN was designed to be able to recover automatically from destroyed network topology based on the evolution strategies of preferentially matched duplication, newly added connection-oriented divergence and newly added connection-oriented death. In experiments, 3DP-RESN, classic ESN (CESN) and destroyed ESN (DESN) are applied to approximating three kinds of nonlinear time series, i.e., the NARMA system, Henon map and figure8. Experimental results show that, when reservoirs suffer from failure, for three kinds of time series, the prediction accuracy of 3DP-RESN significantly outperforms DESN, and is close to or even higher than that of CESN which has not suffered from failure. Especially in the experiment of figure8, compared with CESN and DESN, the prediction accuracy of 3DP-RESN is improved by 30.56% and 7.01% respectively. Besides, the short-term memory capacity of the 3DP-RESN is also close to that of CESN. Hence, 3DP-RESN can possess strongly adaptive self-recovery capacity.

echo state network; biological evolution; restorable capacity; time series prediction

2015-12-22

國家自然科學基金資助項目(61202243)；國家教育部博士點基金資助項目(20121101110037)

王怡鷗(1990—)，女，博士生，E-mail:wangyiou90@163.com.

TP 301.6

A

1001-0645(2016)11-1141-06

10.15918/j.tbit1001-0645.2016.11.009