基于動態權重的知識積累與靈巧干擾識別方法

李興宇，董勝波，于沐堯

（北京遙感設備研究所，北京 100854）

0 引 言

時至今日，伴隨著數字射頻存儲器（Digital Radio Frequency Memory, DRFM）技術［1］的逐漸成熟與普及，干擾機能夠高速生成樣式多態、控制靈活的靈巧干擾［2-4］，進一步提升了電子干擾能力。隨著信息化技術的發展，基于雷達的科學研究迅速推動了現代作戰方式的改變，在作戰空間中的復雜電磁環境下，電子對抗成為了現代戰爭的重要組成部分，雷達系統亟需提高抗干擾能力［5］?？焖?、有效的環境感知情況可以為雷達后續的干擾抑制提供強有力的保障，干擾識別作為抗干擾的第一步，是雷達抗干擾系統的基礎與關鍵。

近年來，隨著深度神經網絡在圖像分類［6］、目標檢測［7］等多個領域取得顯著的成果，基于深度學習的干擾識別［8-15］逐漸成為研究的熱門方向。文獻［8］針對干擾的CWD 時頻圖像，利用AlexNet 對自動提取的特征進行識別，對5種有源干擾的識別準確率較高。文獻［9］設計了一種融合了一維和二維特征的卷積神經網絡（Convolutional Neural Networks, CNN），在訓練樣本有限的情況下，實現了脈沖壓縮雷達干擾信號的準確分類，具有較強的干擾信號特征提取能力。文獻［10］通過CNN 聯合多域提取時域圖像和頻域序列的特征進行干擾識別，在低干噪比下也能準確分類。文獻［11］通過對目標在距離多普勒和角度多普勒平面構建聯合特征，建立了一種改進的殘差卷積神經網絡進行干擾識別。文獻［12］設計了一種級聯CNN 結構，針對單周期與多周期干擾的偽Wigner-Ville 分布時頻二維圖像實現干擾識別。文獻［13］針對FPGA平臺，將干擾信號的距離-多普勒分布作為輸入，提出了一種微動態CNN，能夠在預測階段調整網絡結構,降低計算復雜度，便于工程應用。文獻［14］提出了一種自注意力網絡，利用信號時頻頻譜中的全局信息和真實干擾信號相聯合，學習干擾信號頻譜中任意兩點的相關性，提高識別精度，并且利用知識蒸餾減少推理時間。文獻［15］提出了一種基于集成學習和遷移學習的干擾識別網絡，數據集是通過提取干擾短時傅里葉變換時頻圖的實部、虛部、模值和相位進行組合構造，在小樣本下有效提升了識別準確率。

以上已有的基于深度學習的干擾識別方法普遍存在著以下問題：在復雜電磁環境中，噪聲較強的條件下，干擾識別準確率不高；網絡訓練完成后干擾特征難以積累，新的干擾對抗情景中，模型需要每次重新訓練，總訓練時間過長，模型開銷較大，不利于工程實現。

為了解決上述問題，針對干擾機產生的新式靈巧干擾，本文設計了一種基于動態權重的知識積累（Dynamic Weighted Knowledge Accumulation method based on Convolutional Neural Network, DWKA-CNN）干擾識別方法。該方法將干擾信號的平滑偽Wigner-Ville 分布（Smooth Pseudo Wigner-Ville Distribution,SPWVD）圖像作為卷積神經網絡的輸入，設計了動態權重最近鄰分層屏蔽網絡權重的算法，在不停變化的干擾對抗環境中，避免了網絡每次重新訓練，減少了模型開銷，實現了在單一網絡中學習多項干擾識別任務，完成了知識在網絡中的積累，并且提升了低干噪比下網絡的干擾識別準確率。

1 方法介紹

1.1 干擾信號模型及數據生成

本文算法主要針對雷達靈巧干擾進行識別分類?；跀底稚漕l存儲器（Digital Radio Frequency Memory,DRFM）生成的靈巧干擾根據干擾特點可以分為間歇采樣轉發干擾（Interrupted Sampling Repeater Jamming，ISRJ）和靈巧噪聲干擾（Smart Noise Jamming，SNJ）［4］。本文算法主要以LFM 雷達信號為基礎進行干擾分析研究。假設雷達發射的線性調頻信號s(t)表示為

式中，A為信號幅度，T為脈沖寬度，f0為信號載波頻率，K為調頻斜率。

干擾機進行雷達信號采樣的矩形脈沖串p(t)表示為

式中，τ為采樣信號脈沖寬度，Ts為采樣信號脈沖重復周期，即fs=1/Ts。

干擾機產生的間歇采樣轉發干擾信號j(t)為

根據采樣和轉發策略的不同，ISRJ 可以分為間歇采樣直接轉發干擾（Interrupted Sampling and Direct Repeater Jamming，ISDRJ）、間歇采樣重復轉發干擾（Interrupted Sampling and Periodic Repeater Jamming，ISPRJ）、間歇采樣循環轉發干擾（Interrupted Sampling and Cyclic Repeater Jamming，ISCRJ）。

卷積調制的全脈沖轉發處理的SNJ 型靈巧干擾信號為

式中，n0(t)為高斯白噪聲，hBP(t)為帶通濾波器，hHlibert(t)為希爾伯特濾波器。乘積調制的全脈沖SNJ型靈巧干擾信號j'SNJ(t)為

而切片SNJ 干擾是基于ISRJ 原理，在干擾生成階段加入噪聲調制，從而形成了卷積調制靈巧噪聲干擾（Smart Noise Jamming with ConvolutionModulation，CM_SNJ）和乘積調制靈巧噪聲干擾（Smart Noise Jamming with Multiplication Modulation，MM_SNJ），其具體干擾生成模型表達式為

由于本文主要使用卷積神經網絡對干擾進行識別檢測，而對于CNN 而言，二維圖像才是最適合進行處理的數據類型?；诿}沖級特征的參數向量約束條件多，特征明確，會給CNN 帶來過擬合與非完備的影響。本文算法采用時頻分析方法中的Wigner-Ville分布（Wigner-Ville Distribution,WVD）［16］對干擾信號進行分析。WVD 是信號的雙線性函數，而干擾、噪聲和雷達目標回波在時域上往往會產生交疊，從而導致產生的時頻二維圖像存在交叉的相干項，這些相干項會與信號產生重疊，并且無論距離如何衰減均會對結果造成影響，使得很難對時頻二維圖像作出直觀的解釋。

為了減少交叉項干擾，通過對t和τ分別加窗函數，獨立控制兩個窗函數的長度，采用SPWVD［17］對信號s(t)進行分析可以得到以下分布：

式中h(τ)和g(t)均為窗函數，本文中采用Kaiser窗。這種對信號的獨立平滑處理可以有效抑制WVD 中出現的交叉項干擾，并且能夠同時在時域和頻域上獲得較高的分辨率。

1.2 基于動態權重的知識積累干擾識別方法

本文算法目標是在不停變化的干擾對抗環境下，用一個單一網絡完成多次干擾信號的識別，在保持較高干擾識別準確率的同時縮短整體的訓練時間，提升模型的抗噪聲能力。

當新任務t加入網絡中訓練時，訓練集為Dt，此時網絡模型的l層的輸出維度為ml，該層的輸出向量可以表示為

式中：f(·)為非線性激活函數，本文算法在基礎模型架構中采用ReLU 函數；為網絡學習任務t時的權重矩陣，且，其中未固定的所有權重設為，未固定權重數量為；b(l)為該層的偏置。

CNN 是由多層線性投影和非線性的激活函數組成的。網絡通過調節神經元的權重進行訓練，權重的值代表從特定任務中學習到的知識。最近幾年，大量的神經網絡模型壓縮方向的研究［18-20］證明，神經網絡中的知識存在冗余，算法通過在對應的卷積層和線性層刪除權重和修剪冗余連接，可以有效地降低網絡模型中的冗余。網絡經過修剪后，釋放出的權重參數可以被用來學習新的知識，從而在網絡中進行知識的積累。因此，本文中網絡在完成一次干擾識別任務后，結合均值最近鄰策略，根據動態變化的權重決定剪枝的百分比，使用逐層修剪權重的方式，將當前任務t的必要知識保留在模型中，實現在單一網絡中多次識別干擾。

在完成一次干擾識別任務后，若l層對應的為全連接層（Fully Connected layer, FC）或卷積層（Convolutional layer, Conv）時，其中所有未固定權重經過貝塞爾校正后的均值為

那么需要固定在網絡中的權重數量為N(l)t*，則當前模型層級保留權重的百分比g(l)t為

在實驗中發現，采用均值最近鄰策略保留權重，能夠更好地在網絡中保存已學習的知識，干擾識別準確率也更高。假設網絡學習當前任務t時，需要保持不變的權重集合為，算法遵循均值最近鄰原則保留權重：

將中與集合對應的權重固定在模型中，作為學習任務t的知識沉淀。算法將模型中其余的權重屏蔽，設置它們為零。當網絡中部分權重突然被屏蔽設置為零后，會導致權重矩陣稀疏，網絡的連通性隨之改變，識別精度下降。為了恢復網絡性能，需要使用較少的輪次對網絡進行微調訓練。

整體的干擾識別流程如圖1所示，首先對目標回波和干擾信號進行建模，在信號上疊加高斯白噪聲，仿真產生干擾信號；然后將一個脈沖重復周期內的信號作為原始數據進行預處理，處理過程包括取均值化與方差標準化、圖像寬高比歸一化和均值濾波；之后進行標準化SPWVD 變換生成適合CNN處理的二維圖像；然后將包含干擾和目標回波信號在內的7種雷達信號類型，進行輸入CNN前的圖像預處理；最后建立干擾識別網絡模型，依次加入7組數據集進行訓練，得到輸出的干擾類型。

圖1 整體干擾識別流程圖

本文提出的知識積累與靈巧干擾識別網絡模型的整體結構如圖2（b）所示，模型整體采用VGG-16［21］結構作為基礎，在每個最大池化層后加入SE注意力模塊，提升模型的特征提取能力。圖中Conv和FC代表卷積層和全連接層，SE代表注意力模塊。

圖2 知識積累與靈巧干擾識別網絡模型

為了在網絡獲取信號圖像特征后，加強干擾部分的特征，淡化噪聲部分的特征，進一步提升網絡識別準確率，算法使用特征通道注意力機制增強獲取特征中的有效成分。本文算法中在基礎模型的每個最大池化層后加入通道注意力（Squeezeand-Excitation, SE）模塊［22］，其結構如圖2（c）所示,其中GAP（Global Average Pooling）代表全局平均池化層。來自上一層最大池化層的輸出在經過注意力模塊中的全局平均池化層后，得到輸出z=(z1,z2,…,zC)T，其中C為網絡中數據的特征通道數。之后，z通過降維的全連接層和激活函數ReLU 與升維的全連接層和激活函數Sigmoid 后，得到注意力模塊的輸出計算公式為

式中W1=(wij)(C/r)×C，W2=(wij)C×(C/r)代表兩個全連接層的權重參數矩陣，r為衰減因子，在算法中設置為16，σ(·)為Sigmoid函數，δ(·)為ReLU函數。

知識積累干擾識別算法的主要訓練流程如圖2（a）所示，灰色代表固定在網絡中的權重參數，白色表示算法將權重設置為零，綠色表示網絡中用于另一分類任務的權重。

第一步：使用預訓練過的網絡模型在任務1訓練，得到全灰色網絡，算法按照均值最近鄰策略固定權重后，將其他權重設置為零，得到任務1 的最終網絡權重矩陣。

第二步：當模型學習新的任務2 時，網絡中所有參數均參與訓練，灰色權重保持不變，白色權重被綠色填充，得到任務2的初始網絡。此時根據算法屏蔽只屬于任務2 的綠色權重，得到任務2 的最終網絡權重矩陣。

第三步：為了在權重屏蔽后恢復網絡性能，對網絡進行微調。

之后重復以上過程，干擾識別網絡可以不斷學習和積累知識。

2 仿真實驗與結果分析

2.1 數據集與實驗設置

本文算法模型首先在數據集ImageNet-1K［23］上進行初始網絡的訓練，獲取初始化權重，規避模型梯度消失或爆炸的風險，并且縮短訓練時間。

仿真生成干擾時，通過改變干擾信號的相關參數，構建的數據集可以更好地保證算法的泛化性和穩定性。

仿真時，針對包含無干擾的目標回波信號和6種靈巧干擾信號，加入高斯白噪聲，生成信噪比（SNR）在-10～20 dB，干信比（JSR）在5～20 dB 范圍，切片寬度為0.5～2.5μs，切片數量為2～6的樣本集。其他信號生成過程的參數設置如表1所示。

表1 干擾信號參數設置

數據集中一共包含7 種雷達信號類型的SPWVD 圖像，7 種靈巧干擾數據集的SPWVD 圖像示例如圖3 所示，分別是：無干擾的真實目標回波信號（Echo），ISDRJ，ISPRJ，ISCRJ，SNJ，CM_SNJ，MM_SNJ。

圖3 7種雷達干擾的時頻圖像示例

SNJ 的圖像示例包含卷積調制和乘積調制兩種干擾類型。每種信號的訓練集樣本數為500，驗證集樣本數為150。訓練集總樣本數為3 500，驗證集總樣本數為1 050。

本文算法采用Pytorch 深度學習框架實現，在網絡訓練和測試階段，將所有數據集的輸入圖像的尺寸統一調整為224×224。在訓練階段，算法使用隨機裁剪和隨機水平翻轉進行數據增廣。7 種干擾信號的數據集依次加入模型中進行訓練，模型首先在初始任務上訓練20 個輪次，初始學習率為10-4,每訓練迭代10 個輪次后，學習率衰減10倍。之后分層屏蔽網絡中80%的權重，進行網絡的微調，學習率為10-3,每訓練迭代5 個輪次，衰減10 倍。參數更新優化器選擇Adam 算法，batchsize設置為32。之后每新增一個干擾信號類型加入網絡中進行訓練時，重復以上過程，并在模型中添加一個新的輸出層。

為了對比性能，本文中選擇并復現了3種基線模型：VGG-16［21］、ResNet-18［24］、S-CNN［9］?；€模型均使用原論文中推薦的方法和參數進行訓練，均在ImageNet-1K上進行了預訓練。

2.2 模型多項任務平均識別準確率

為了驗證模型在單一網絡中學習多項干擾識別任務的性能，實驗中，設計依次向網絡中增加7種類型的信號數據集進行訓練。數據集加入的順序為：ISDRJ、Echo、SNJ、ISCRJ、CM_SNJ、ISPRJ、MM_SNJ。在每次任務學習完成后，計算所有已完成學習的干擾任務的平均識別準確率。得到每種模型的對比結果如圖4 所示。圖中的準確率是實驗獨立運行5 次的平均值，其中DWKA-CNN 為本文算法模型。

圖4 不同模型多項干擾任務平均識別準確率對比

圖4 顯示，在分步將7 種靈巧干擾識別任務加入網絡的過程中，由于3種基線模型中沒有用于知識積累的模塊，當新的干擾識別任務加入網絡后，在之前任務上的識別準確率會大幅下降，從而影響平均識別準確率。在整個實驗過程中，本文算法模型的平均識別準確率沒有明顯地下降，總是高于其他網絡模型。表2 總結了4 種算法模型的Top-1平均識別準確率。

表2 不同模型的Top-1平均識別準確率

表2 顯示，VGG-16、ResNet-18 和S-CNN 3 個模型在第2個干擾識別任務加入后，平均識別準確率分別下降到78.27%、80.53%和81.47%，在第4個干擾識別任務加入后，平均識別準確率分別下降到59.90%、62.53%和66.73%，最終的平均識別準確率為54.72%、57.03%和61.92%。而本文算法模型在第7個干擾識別任務加入后，最終的平均識別準確率為91.45%。當新任務加入DWKA-CNN 模型時，只需要訓練新加入的數據集，無需將之前學習過的所有數據集加起來重新訓練，縮短了總訓練時長，實現了在單一網絡中學習多項干擾識別任務的目標。

2.3 模型整體平均識別準確率

為了研究算法模型對靈巧干擾的整體干擾識別能力和在低干噪比下識別性能，本文在仿真生成干擾信號時，固定JSR=5 dB，改變JNR 的數值，實驗中紀錄不同模型所有測試樣本的整體識別準確率。每個JNR 條件下，每種靈巧干擾生成650張時頻二維圖，隨機拆分為訓練集500 張和測試集150 張。圖5 顯示了4 種網絡模型在不同干噪比下的整體平均識別準確率。圖中的準確率是實驗獨立運行5次的平均值。

圖5 不同干噪比下各模型整體平均識別準確率變化

圖5顯示，本文算法整體干擾識別性能更為穩定和準確。本文算法在較低干噪比條件下，相較于其余3 種模型識別準確率更高；在JNR≥9 dB 后，本文算法與其余3 種模型識別準確率沒有明顯差距。由此可見，本文算法模型在干噪比發生變化時，識別準確率更為穩定，且在低信噪比時表現優秀，擁有更好的干擾識別性能。

2.4 消融實驗

為了進一步驗證本文算法模塊的有效性，分離模型中的改進模塊，進行了消融實驗。本節實驗中構建了兩種不同的模型。模型1 與原模型DWKA-CNN 相比，不采用均值最近鄰策略保留權重，而將網絡中動態變化的權重按絕對值大小排序，然后保留網絡中一定百分比絕對值較大的權重；模型2 與DWKA-CNN 模型相比，在網絡中不加入SE 模塊。重做2.2 節中的實驗，對比結果如圖6所示。

圖6 DWKA-CNN模型修改后識別準確率變化

圖6顯示，采用均值最近鄰策略保留權重和在網絡中加入注意力模塊能夠明顯提升模型的識別準確率。模型1 與模型2 和DWKA-CNN 的比較顯示，采用均值最近鄰策略保留網絡中的權重對提升識別準確率更為有效。實驗中得到表3的Top-1平均識別準確率，結果均為實驗獨立運行5次的平均值。

表3 修改DWKA-CNN模型的Top-1平均識別準確率

表3 顯示，模型1 和模型2 在第2 個干擾任務加入后，識別準確率較原模型下降1.40% 和0.81%，最終第7個干擾任務加入后，識別準確率較原模型下降2.75%和1.64%。

3 結束語

本文針對復雜動態電磁環境下，新式靈巧干擾分類問題中識別網絡收斂能力較差，低干噪比下準確率較低的問題，提出了一種新的基于動態權重的知識積累與靈巧干擾識別方法，通過將干擾信號的SPWVD 圖像作為CNN 的輸入，在網絡每次進行識別的過程中，結合均值最近鄰原則分層屏蔽權重，在訓練過程中完成了知識的積累，在新的干擾對抗情景中，模型無需每次重新訓練。并且利用通道特征注意力機制，聯合提升了模型的干擾識別能力。在仿真生成的7 種雷達干擾數據集上的實驗驗證表明：與現有算法相比，在低信噪比條件下整體干擾識別準確率提升顯著。

基于目前的工作，下一步的研究方向是，進一步優化算法性能和壓縮網絡，擴大網絡可容納的任務數量，使得提出的算法模型實現在存儲權限和設備的內存大小受到限制的真實場景下的部署。