基于改進SVM的模擬電路故障診斷

周紹磊，廖 劍，史賢俊，戴邵武

（海軍航空工程學院控制工程系，山東煙臺264001）

模擬電路由于自身存在故障模型欠佳、元件容差、故障參數連續和電路非線性等特點[1]，使得其故障診斷技術發展緩慢。20世紀90年代以來，隨著人工智能技術研究的復興，越來越多的學者將其應用到模擬電路故障診斷中，并取得了顯著的成果[1-7]?；跈C器學習的故障診斷方法，如神經網絡[1-4]（Neural Networks，NN）和支持向量機[5-7]（Support Vector Machine，SVM），由于不需要精確的數學模型，因而非常適合于有容差的模擬電路故障診斷，但NN 基于經驗風險最小化，在訓練的過程中普遍存在收斂速度慢、容易陷入“局部最優”且當故障樣本有限時其泛化能力難于保證等缺點。文獻[5-7]對模擬電路診斷技術研究的不斷深入和發展，提出了基于SVM 的模擬電路故障診斷技術并取得了較好的識別效果。SVM 作為一種基于統計學習理論的機器學習方法，克服了NN 方法的固有缺點，在解決小樣本、非線性及高維模式識別等問題中表現出結構簡單、全局最優和泛化能力強等特點，被看作是對傳統分類器的一個好的替代，已在模擬電路故障診斷得到成功應用[5-9]。但SVM 在構造最優分類超平面時，僅僅關注了數據整體類間的可分離性，而忽視了類內數據的結構信息[10]，導致在數據中存在非線性流形結構時，其分類邊界過于光滑，嚴重影響了SVM 的分類性能。一般電路的輸出和電路的故障機理之間往往存在著非線性關系[11]，因而標準SVM 僅僅關注類間間隔信息對模擬電路故障診斷分類問題來說是遠遠不夠的。針對上述情況，本文提出一種融合數據分布先驗信息的改進支持向量機故障診斷方法，該方法通過在標準SVM 中加入對數據流形局部分布的約束，有效提高了模型的診斷精度。

1 SVM及其不足

1995年，Vapnik[12]基于結構風險最小化原則提出SVM 分類算法，由于其能有效解決小樣本、非線性及高維模式識別等問題，且通常具有良好的學習和推廣能力而得到廣泛研究并已成功應用于故障診斷等領域。

對于線性不可分問題，對每個樣本引入一個松弛變量ξi，支付一個代價ξi，將間隔軟化。目標函數由原來的變成

式（3）中，C＞0 稱為懲罰參數，一般由應用問題決定，用以在最大化間隔和最小化錯分程度之間尋求一個滿意的平衡。

相應的約束條件變為：

由式（2）可以得到定理1。

定理1：SVM 的類間可分離性滿足wSbw≥4，其中，Sb=(μ1-μ2)(μ1-μ2)T為類間散布矩陣，μi為第i類的均值，i=1,2。

由于篇幅所限，詳細證明請參見文獻[10]。

從定理1顯見，標準SVM在約束條件中自然地暗含了對類間可分離性的一個下界，這與模式識別的大間隔準則要求是一致的。但是，SVM卻忽視了類內先驗的結構信息，這些信息對于分類問題至關重要。文獻[10]指出，對于復雜的模式識別問題，如果僅僅關注數據的類間間隔而忽略數據的先驗分布信息，將使訓練得到的分類器邊界過于光滑，從而對于復雜問題的分類精度將明顯下降。同時，對于大部分模擬故障診斷問題，由于電路的輸出和電路的故障機理之間往往存在著非線性關系，且故障樣本常局部嵌入在一個低維流形上。因此，如果只關注故障樣本的類間間隔，將不能得到很好的分類診斷效果。

2 改進SVM及其故障診斷

為了更好地在SVM 中融入數據的先驗結構信息，本文提出一種基于改進支持向量機，試圖在構造最優分類超平面時同時考慮數據的整體類間間隔和數據流形的局部信息，使分類超平面對數據分布敏感。為了更好地描述本文方法，先給出如下定義。

根據光譜圖理論[13]，具有權重矩陣W的加權鄰接圖G能有效刻畫樣本流形的局部幾何結構，但僅有一個整體圖并不足以反映樣本間的判別結構。為此，可以針對類內樣本和類間樣本分別構建加權鄰接類內圖Gw和類間圖Gb，分別用于刻畫數據流形的局部結構信息和局部判別信息。

定義2（局部離散度矩陣）[14]：設Lw和Lb分別為圖Gw和Gb的拉普拉斯矩陣，則矩陣Hw=XLwXT=稱為局部類內圖離散度矩陣；矩陣稱為局部類間圖離散度矩陣，其中，的權重矩陣，T(·)為一l×l對角矩陣，其對角線上元素定義為統稱為局部離散度矩陣。

上述定義中，局部類內圖離散度矩陣Hw體現了輸入樣本流形的局部結構信息，局部類間圖離散度矩陣Hb體現了輸入樣本流形的局部判別信息。

定義3（局部信息差度量）：類似于標準SVM，假設分類器具有線性形式：f(x)=wTx+b，則

稱為局部信息差度量，其中，δ∈( 0,1] 為局部信息平衡參數，ΔH=δHw-(1-δ)Hb=XΔLXT為局部信息差矩陣，ΔL=δLw-(1-δ)Lb。

上述定義中，參數δ用于在輸入樣本流形的局部幾何結構（局部類內緊性）和局部判別信息（局部類間散性）之間尋求一個滿意的平衡。當δ增大時，偏向于保持局部幾何結構同時減少對局部判別信息的懲罰；反之，則放松對局部幾何結構的要求，加大懲罰局部判別信息。只要在適當的δ值下，ΔS就能既較好地保持局部幾何結構，又具有較好的模式判別信息。

根據模式識別的大間隔準則，在輸出空間中，期望在圖Gw中的近鄰樣本盡可能的緊湊，同時在圖Gb中的近鄰樣本盡可能的分散。因此，改進SVM 方法的原始優化問題可描述為：

式（6）、（7）中：C＞0 是一個懲罰參數；λ≥0 是正則化參數，調節局部流形信息的相對重要性；ξ=[ξ1,…,ξl]為松弛向量。

類似于標準SVM 的推導方法，將原始問題轉化為求其對偶問題的最優解，于是可得原始優化問題（6）、（7）的對偶問題為

式（8）～（10）中：αi為Lagrangian乘子；I為單位矩陣；且改進SVM原始優化問題中投影向量w*和偏置變量b*分別為：

同標準SVM，對于線性不可分問題，同樣可以顯式地把樣本映射到高維特征空間中，然后在特征空間中構造分類超平面。因篇幅所限，本文不進行討論。

與標準SVM 一樣，基于改進SVM 的模擬電路故障診斷方法分為訓練和診斷2 個階段。首先，對待診斷電路施加激勵，采用合適的故障特征提取方法提取電路在不同故障狀態下的特征組成訓練集；然后，使用改進SVM方法訓練診斷分類器對故障分類。

3 故障診斷實例

3.1 電路模型、參數及故障仿真設置

本文以兩級四運放低通濾波器電路[15]為例進行實驗分析。兩級四運放低通濾波器的電路結構及元件標稱值如圖1所示（電阻的單位為Ω）。其中設定電路中電容容差為±10%，電阻容差為±5%。輸入節點為Vin，設定輸入激勵信號是幅值為5 V、寬度為10 μs的窄脈沖。故障模式設置與文獻[15]完全一致，15 種軟故障如表1所示。

圖1 兩級四運放低通濾波器Fig.1 Two-stage four-op-amp low-pass filter

表1 電路中軟故障模式Tab.1 Soft fault modes in circuit

3.2 特征提取

給兩級四運放低通濾波器電路施加幅值為5 V、寬度為10 μs 的窄脈沖，用Pspice 仿真采樣電路Vout節點電壓值，采樣率為500 K samples/s，采樣時間為400 μs，每種故障模式及正常模式各進行50次Monte-Carlo 分析，共采樣800 組數據，每種故障狀態的部分響應輸出波形如圖2 所示。然后，根據文獻[15]的計算方法，對所有采樣數據進行最優分數階傅里葉變換（Fractional Fourier Transform，FrFT）得到相應16 種故障模式（包括正常狀態）的800組201維特征向量。本文只是利用文獻[15]取得的故障特征數據用于降維對比，并不討論模擬電路最優故障特征的提取問題，所以詳細的故障特征提取步驟和故障特征樣本集獲取請參見文獻[15]。

3.3 基于改進SVM的模擬電路故障診斷

使用網格搜索法搜索最佳的改進SVM 參數，多分類問題采用一對一策略，訓練多故障分類器對電路進行診斷，結果如表2 所示，表中NF 表示電路正常狀態。表2 還列出了基于SVM[8]和LS-SVM[7]方法的故障診斷率。從表2中可知，SVM和LS-SVM方法的故障診斷率相當，而融合了數據先驗分布信息的改進SVM 方法的故障診斷正確率要明顯高于SVM 和LSSVM方法，可見所提方法具有一定的優勢。

圖2 電路各種故障狀態的脈沖響應Fig.2 Impulse response of TSLPF circuit under different fault status

表2 電路故障診斷率Tab.2 Diagnosis rate of circuit fault

4 結束語

本文針對標準SVM 在模擬電路故障診斷應用中的不足，提出了基于改進支持向量機的模擬電路故障診斷新方法。該方法通過在標準SVM中加入對數據流形局部分布的約束，并在懲罰系數中引入數據的全局分布信息設計了一種依賴于數據分布的新型SVM，新方法取得的分類效果優于標準SVM。采用兩級四運放低通濾波器電路驗證了方法的有效性，并與SVM和LS-SVM 方法進行對比，結果表明所提方法能有效提高模擬電路的故障診斷率，具有較大的應用優勢。

[1] AMINIAN M，AMINIAN F. A modular fault-diagnostic system for analog electronic circuits using neural networks with wavelet transform as a preprocessor[J]. IEEE Transactions Instrument Measure，2007，56（5）：1546-1554.

[2] AMINIAN M，AMINIAN F. Neural-network based analog circuit fault diagnosis using wavelet transform as preprocessor[J].IEEE Transactions on Circuit System II：Export Briefs，2000，47（2）：151-156.

[3] AMINIAN M，AMINIAN F. Fault diagnosis of nonlinear circuits using Neural Networks with wavelet and Fourier transforms as preprocessors[J].Journal of Electronic Testing，2001，17：471-481.

[4] AMINIAN M，AMINIAN F.Analog fault diagnosis of actual circuits using neural networks[J]. IEEE Transactions on Instrument Measure，2002，51（3）：544-550.

[5] HUANG J，HU X G，YANG F. Support vector machine with genetic algorithm for machinery fault diagnosis of high voltage circuit breaker[J]. Measurement，2011，44：1018-1027.

[6] LONG B，TIAN S L，MIAO Q，et al. Research on features for diagnostics of filtered analog circuits based on LS-SVM[J]. IEEE Autotestcon，Baltimore，MD，2011，9：360-366.

[7] LONG B，TIAN S L，WANG H J. Diagnostics of filtered analog circuits with tolerance based on LS-SVM using frequency features[J]. Journal of Electronic Testing，2012，28：291-300.

[8] 孫永奎，陳光礻禹，李輝.靈敏度分析和SVM診斷模擬電路故障的方法[J].電子科技大學學報，2009，38（6）：971-975.

SUN YONGKUI，CHEN GUANGJU，LI HUI.Fault diagnosis method for analog circuits using sensitivity analysis and SVM[J]. Journal of University of Electronic Science and Technology of China，2009，38（6）：971-975.（in Chinese）[9] 宋國明，王厚軍，姜書艷，等.最小生成樹SVM的模擬電路故障診斷方法[J].電子科技大學學報，2012，41（3）：412-417.

SONG GUOMING，WANG HOUJUN，JIANG SHUYAN，et al.Fault diagnosis approach for analog circuits using minimum spanning tree SVM[J]. Journal of University of Electronic Science and Technology of China，2012，41（3）：412-417.（in Chinese）

[10] XUE H，CHEN S C，YANG Q. Structural support vector machine[J]. Lecture Notes in Computer Science，2008，5263（1）：501-511.

[11]崔江，王友仁.一種新穎的基于混合故障字典方法的模擬故障診斷策略[J]. 電工技術學報，2013，28（4）：272-278.

CUI JIANG，WANG YOUREN.A novel strategy of analog fault diagnosis based on hybrid fault dictionaries[J].Transactions of China Electrotechnical Society，2013，28（4）：272-278.（in Chinese）

[12] VAPNIK V N. The nature of statistical learning theory[M].New York：Springer-Verlag，1995：59-87.

[13] YAN S，XU D，ZHANG H，et al. Graph embedding and extensions：a general framework for dimensionality reduction[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence，2007，29（1）：40-51.

[14]陶劍文，王士同.局部保留最大信息差ν-支持向量機[J].自動化學報，2012，38（1）：97-108.

TAO JIANWEN，WANG SHITONG. Locality-preserved maximum information variance v-support vector machine[J]. Acta Automatica Sinica，2012，38（1）：97-108.（in Chinese）

[15]羅慧，王友仁，崔江.基于最優分數階傅立葉變換的模擬電路故障特征提取新方法[J].儀器儀表學報，2009，30（5）：997-1001.

LUO HUI，WANG YOUREN，CUI JIANG. New approach to extract analog circuit fault features based on optimal fractional Fourier transform[J]. Chinese Journal of Scientific Instrument，2009，30（5）：997-1001.（in Chinese）