軸承變工況故障的域自適應遷移深度學習診斷

牟紅霞

（山東職業學院，山東 濟南 250104）

1 引言

隨著機械設備智能化水平提高和機械結構日趨復雜，企業對設備的可靠性要求也越來越高。軸承等旋轉機械由于工況復雜多變而容易發生故障，不僅影響企業的生產效率，嚴重時會造成巨大的經濟損失，甚至機毀人亡［1］。因此，研究軸承故障的智能診斷技術具有重要的經濟意義和安全意義。

軸承的振動信號中包含有豐富的故障信息，能夠實時準確的反應軸承當前工作狀態，因此軸承故障狀態實時監測的信號主要為振動信號［2］。軸承故障診斷分為3個重要步驟：（1）振動信號的有效獲??；（2）振動信號故障特征的提??；（3）軸承故障模式的準確識別。由于故障特征提取的優劣直接影響故障診斷結果，因此故障特征提取最為關鍵，常見的故障特征提取方法包括時域特征、頻域特征和時頻域特征［3］。時域特征出現最早，包括峰值、裕度、峭度等［4］，由于時域特征抗干擾性能差，因此極易發生誤判。頻域特征的基礎是傅里葉變換，頻域特征分析方法包括頻譜分析、倒譜分析、包絡分析等［5］，由于頻域分析完全拋棄了時間域，因此無法分析非平穩非線性的振動信號。時頻域特征結合了時域與頻域的優點，即分析信號頻率隨時間的變化情況，先后出現了短時傅里葉變換、小波變換、經驗模態分解等方法。文獻［6］使用短時傅里葉變換提取信號的時頻域特征，并使用卷積神經網絡識別故障類型，經驗證此方法對不同故障類型具有較高的識別準確率；文獻［7］使用經驗小波變換將振動信號分解為不同時間尺度的IMF分量，提取IMF分量中的時域、頻域、時頻域特征，而后使用流行學習法進行特征簡化，該方法提取的故障特征具有更高的識別準確度；文獻［8］針對強噪聲背景下軸承微弱故障信號的特征提取問題，提出了級聯自適應分段線性隨機共振系統降噪的經驗模態分解方法，有效減少了經驗模態分解階數，實現了強噪聲背景下的微弱故障提取。傳統的時域特征、頻域特征和時頻域特征能夠有效提取軸承特征，但是由于種類繁多而難以選擇。而且，當前故障診斷方法均假設訓練樣本和測試樣本獨立同分布，這對變設備、變工況、變故障程度的情況明顯不適用。

這里研究了變設備、變工況條件下的軸承故障診斷問題，以深度卷積神經網絡為基礎，使用對抗訓練的方式使深度學習網絡獲得域自適應遷移能力，域自適應遷移深度卷積神經網絡能夠提取不同域數據的共同特征，實現變設備、變工況條件下的軸承故障精確識別。

2 問題描述與基礎知識

2.1 域自適應遷移問題描述

在遷移學習中，域D使用特征空間x和邊緣概率分布P(x)進行定義和描述，含有n個故障樣本的數據集可記為{，其中xi∈x，即xi屬于特征空間x；yi∈y為樣本標簽，y={1，2，…，k}為軸承故障標簽值（即故障狀態值）。

傳統故障診斷方法一般假設測試樣本與訓練樣本獨立同分布，因此經訓練集訓練完畢的故障診斷模型直接用于測試集的故障診斷。但是，訓練集一般是在設定的實驗環境下得到的，而將診斷模型應用于實際診斷時，設備實際運行環境與實驗環境差別較大，必然引起故障模式誤判。將實驗環境下得到的有標簽訓練集稱為源域，記為Ds={xs，P(xs) }，將工作環境下得到的無標簽測試集稱為目標域，記為Dt={xt，P(xt) }，由于訓練集與測試集之間分布存在差異，直接將訓練模型應用于測試集，必然引起模式誤判，如圖1所示。圖中實線區域為源域，虛線區域為目標域，故障模式分界線依據訓練集（即源域）確定。

圖1 故障模式誤判示意圖Fig.1 Diagram of Fault Mode Misjudgment

為了解決這一問題，這里提出了域自適應遷移策略，該策略以提取測試集與訓練集公共特征的方式，試圖減小測試集與訓練集之間的分布偏移，達到提高診斷模型泛化能力的目的，域自適應遷移效果，如圖2所示。

圖2 域自適應遷移策略Fig.2 Domain Adaptive Migration Strategy

2.2 深度卷積神經網絡

這里基于深度學習實現域自適應遷移策略，因此首先介紹深度卷積神經網絡的深度學習方法。深度卷積神經網絡由輸入層、卷積層、池化層、全連接層、輸出層等組成［9］，其中卷積層與池化層交替出現，兩者交替層數越多則特征提取越充分但同時計算量越大。

（1）卷積層。卷積層將上層輸出與卷積核做卷積運算，生成特征輸出，即：

（2）池化層。池化層作用是降低特征維度，提取最為重要的特征信息，防止出現過擬合問題。池化作用包括平均池化和最大池化兩種，由于軸承故障時振動信號出現周期性極值，因此最大池化方式在軸承故障特征提取中極為適用。最大池化方法為：

（3）全連接層。全連接層一般與輸出層的Softmax函數組成分類器，將最后一層池化層得到的輸出特征進行平鋪作為全連接層的輸入，全連接層輸出為：

式中：—第l+1層全連接層的第t個輸出結果—平鋪后的第k個特征量；—第l層第k個特征量與第l+1層第t個輸出的傳遞權值；—第l+1 層網絡的第k個神經元偏差；F()—ReLU激活函數。

（4）輸出層。輸出層使用Softmax函數計算每個標簽的歸一化概率，即：

式中：Hot—歸一化概率矩陣；

p(y=t)—輸出標簽為t時的歸一化概率；

T—輸出標簽數量。

3 域自適應遷移的深度卷積神經網絡

3.1 構造思路

從本質上講，深度卷積神經網絡中卷積層與池化層的交替過程為輸入數據的特征提取過程，而全連接層與輸出層為故障模式的識別過程。但是傳統的深度卷積神經網絡明顯無法解決域之間分布差異帶來的故障誤判問題，這里將域自適應遷移學習方法引入到深度卷積神經網絡中，具體思路為：基于對抗訓練的策略提取源域與目標域的公共特征，公共故障特征具有源域與目標域間的不可分辨性。

具有域自適應遷移能力的深度卷積神經網絡結構，如圖3所示。圖中：Gf(·；θf)—故障特征提取模塊，有標簽數據和無標簽數據使用完全一致的網絡模型；Gd(·；θd)—二分類域識別器，用于判斷故障特征屬于源域或目標域；Gy(·；θy)—標簽分類器，判斷故障特征對應的故障模式；θf—故障提取模塊的網絡參數，θd—域識別器的網絡參數，θy—標簽分類器的網絡參數。實現域自適應遷移的核心問題是提取源域與目標域的公共故障特征，即Gf(·；θf)的構造與訓練。

圖3 域自適應遷移深度卷積神經網絡Fig.3 Deep Convolution Neutral Network With Domain Adaptive Migration

3.2 域自適應遷移能力實現

實現域自適應遷移的具體方法為：使用圖3中的特征提取模塊Gf(·；θf)提取源域與目標域的公共特征向量，將提取特征輸入到域判別模塊Gd(·；θd)中識別故障特征的域屬性，當Gd(·；θd)無法判斷出故障特征所屬域時，說明提取特征為源域和目標域的公共特征。域自適應遷移需解決兩個問題，一是故障提取的域不變性，二是故障模式的可識別性。

3.2.1 故障提取的域不變性。

域識別器Gd(·；θd)為二分類識別器，識別結果記為域標簽di，當di=0時表示識別結果為源域，當di=1時表示識別結果為目標域。二分類交叉熵損失能夠定量的評估識別器對源域和目標域的識別能力，因此這里使用二分類交叉熵損失描述二分類器的識別能力。對于任意一個輸入樣本xi，域識別器Gd(·；θd)的二分類交叉熵損失為：

式中：Ld—二分類交叉熵損失。

式中：E()—二分類交叉熵損失正則項，是關于參數θf與參數θd的函數；ns—源域數據量；nt—目標域數據量。

使用對抗訓練機制以交替的方式輪流訓練域識別器參數θd與特征提取模塊參數θf，即：

式（7）中第一式表示熵損失朝著減小的方向對參數θf進行訓練，意味著模塊Gf(·；θf)提取的故障特征在源域和目標域朝著無差異方向優化，使得域識別器Gd(·；θd)無法準確識別域標簽；式（7）中第二式表示熵損失朝著增大的方向對參數θd進行訓練，從而提高模塊Gd(·；θd)的域識別能力，通過這種對抗交替訓練的方式，逐漸減小源域數據特征與目標域數據特征的差異。

3.2.2 故障模式的可識別性。

使用源域的有標簽數據集可以訓練標簽分類器Gy(·；θy)，實現對源域數據的準確分類。而特征提取模塊Gf(·；θf)提取了源域與目標域的無差別特征，因此標簽分類器可以對目標域特征進行分類。對于任一有標簽數據{}，標簽分類器Gf(·；θf)的交叉熵損失為：

在交叉熵損失中融入模型參數正則項，得到標簽分類器模塊的參數優化目標函數為：

式中：λ—超參數；Φ(θf，θy)—模型參數正則項。

綜合考慮故障提取的域不變性與故障模式的可識別性，得到參數θf、θd、θy的綜合訓練目標函數為：

式中：E(θf，θy，θd)—綜合訓練目標函數，等式右側第一項為標簽分類器的交叉熵損失項，第二項為參數正則項，第三項為域識別器的二分類交叉熵損失項。與前文對抗訓練思路一致，得到參數的θf、θd、θy綜合對抗訓練方法為：

3.3 模型參數訓練

對于參數θf、θd、θy的綜合訓練，θy依據源域有標簽數據集的交叉熵損失Ly進行訓練，θd依據二分類交叉熵損失Ld進行訓練，而θf則同時由Ly和Ld進行更新。由于θd朝著Ld增大的方向進行訓練，文獻［10］以梯度反轉方式實現了θf與θd的交替訓練，這里以改寫二分類交叉熵損失函數的方式，使θd朝著改寫熵損失函數減小的方向訓練，為：

式（12）將域標簽更改為相反值，即源域時di=1，目標域時di=0。按照這種構造方法，θd朝Ld增大的方向優化，就相當于朝著Ld'減小的方向優化，因此可以傳統的參數訓練方法。這里選擇隨機梯度下降法進行參數訓練，為：

式中：μ—學習效率。

3.4 域自適應遷移模型診斷流程

基于深度卷積神經網絡的域自適應遷移故障診斷可以分為3步實現：

（1）使用源域的有標簽數據集對圖3中的特征提取模塊和標簽分類器模塊進行預訓練，訓練完畢的特征提取模塊參數作為此模塊的參數初值，訓練完畢的標簽分類器模塊參數作為此模塊的參數終值。

（2）將預訓練所得參數作為特征提取模塊參數初值，綜合使用源域數據集和目標域數據集，以深度對抗訓練的方式，確定特征提取模塊參數和域識別器模塊參數，實現域自適應遷移能力，減小源域和目標域的特征差異。

（3）將目標域數據集輸入到訓練完畢的診斷模型中，進行故障模式識別。

4 實驗驗證

4.1 實驗設置

這里使用美國凱斯西儲大學的軸承數據和智能維護系統中心的軸承數據構造不同設備、不同工況下的故障診斷實驗。

美國凱斯西儲大學軸承數據樣本：選擇軸承型號為SKF6205的數據樣本，軸承狀態分為正常狀態、內圈故障、外圈故障和滾動體故障，選擇故障直徑為0.007英寸下的實驗數據，實驗采樣頻率為12kHz，在實驗載荷分別為0HP、1HP、2HP、3HP條件下各選取250個樣本，每個樣本長度為2048，則共抽取250×4×4=4000個樣本數據，此樣本記為樣本A。

智能維護系統中心軸承數據樣本：此數據集包含型號為Rexnord ZA-2115 軸承的全周期振動數據，隨著退化實驗的進行，軸承故障程度不斷加深。實驗結束時1#軸承為外圈故障，3#軸承為內圈故障，4#軸承為滾動體故障，實驗采樣頻率為20kHz，抽取每種工作狀態下1000個樣本，樣本長度為2048。共抽取兩組樣本，分別記為樣本B和樣本C，由于此實驗為軸承的全周期實驗，因此樣本B和樣本C為不同故障程度下的軸承實驗數據。

4.2 深度神經網絡結構及參數

為了形成對比，這里同時使用傳統深度卷積神經網絡與域自適應遷移深度卷積神經網絡進行變設備、變工況下的模式識別，傳統深度卷積神經網絡沒有域識別器模塊，其余結構與域自適應遷移深度卷積神經網絡一致。域自適應遷移深度卷積神經網絡由13層網絡構成，1～10層為卷積層與池化層交替，功能上講為特征提取模塊Gf(·；θf)，11～13層為全連接層與輸出層，功能上講為標簽分類器Gy(·；θy)；并列11～13層為域識別器Gd(·；θd)，網絡結構，如表1所示。傳統深度卷積神經網絡使用源域的有標簽數據集進行訓練后，直接應用于目標域的故障模式識別；而域自適應遷移深度卷積神經網絡按照3.3節的過程進行訓練，從而獲得域自適應遷移能力和故障模式判別能力。

表1 網絡結構Tab.1 Network Structure

4.3 實驗結果及分析

根據4.1 節抽取的樣本A、樣本B和樣本C，設計4 組遷移實驗，分別為A→B，A→C，B→A和C→A。以A→B為例，其含義為以樣本A為源域的有標簽數據集，以樣本B為目標域的無標簽數據集進行診斷。傳統深度卷積神經網絡和域自適應遷移深度卷積神經網絡對4種遷移實驗的診斷結果，如表2所示。

表2 診斷結果Tab.2 Diagnosis Result

由表2可知，在變設備、變工況條件下，傳統深度卷積神經網絡在4組實驗中的診斷準確率均值為64.5%，域自適應遷移深度卷積神經網絡的診斷準確率均值為94.9%，比傳統深度學習方法提高了47.13%，說明域自適應遷移深度卷積神經網絡能夠有效應對變設備、變工況條件下的軸承故障診斷問題，基于深度對抗訓練的域識別器與特征提取模塊聯合訓練方法，能夠有效提取源域與目標域的共同特征，從而獲得域自適應遷移能力。

為了更加直觀地展示域遷移效果，使用t-分布鄰域嵌入算法［11］對標簽分類器最后一層全連接層的特征降維到2維空間，以遷移實驗A→B、A→C為例，降維后特征的空間分布，如圖4、圖5所示。圖中橫縱坐標均為無量綱特征量，圖例中“內”指內圈故障“源”指源域，“目”指目標域，“內-源”指源域的內圈故障數據，其余與此含義解釋一致。

圖4 A→B實驗的特征量分布Fig.4 Characteristic Quantity Distribution of Experiment A→B

圖5 A→C實驗的特征量分布Fig.5 Characteristic Quantity Distribution of Experiment A→C

分析圖4、圖5可以看出，對于源域數據，傳統深度卷積神經網絡能夠有效進行故障模式識別，但是由于目標域與源域存在分布差異，直接將深度學習模型應用于目標域時，存在大片重合和混疊區域，無法有效識別出故障模式。而域自適應遷移深度學習網絡能夠明確區分源域和目標域的4種軸承狀態，不存在重合和混疊部分，說明這里設計的域自適應遷移技術有效減小了源域和目標域的分布差異，實現了變設備、變工況條件下的軸承狀態精確識別。

5 結論

這里研究了變設備、變工況條件下的軸承故障診斷問題，以深度卷積神經網絡為基礎，以對抗訓練機制實現了深度學習網絡的域自適應遷移能力。經實驗驗證得出以下結論：（1）在變設備和變工況條件下，域自適應遷移深度卷積神經網絡能夠以較高精度識別軸承故障模式，識別精度遠高于傳統深度卷積神經網絡；（2）對抗訓練方式能夠使深度學習網絡有效獲得域自適應遷移能力。