基于深度學習的認知物聯網頻譜感知算法研究

王安義，王文龍，梁 艷

(西安科技大學 通信與信息工程學院，陜西 西安 710054)

0 引言

隨著物聯網(Internet of Things, IoT)時代的到來,物聯網設備數量急劇增加[1],頻譜資源短缺等問題顯現出來,并且頻譜資源是有限且無可替代的[2],即頻譜資源的緊缺是制約物聯網發展的主要原因之一。物聯網中物-物之間的聯系需要無線頻譜的支撐,而固定的頻譜分配方式顯然滿足不了極速增長的頻譜需求。因此,認知無線網絡(Cognitive Radio Network,CRN)的出現有效解決了物聯網中存在的頻譜短缺問題[3],在主用戶(Primary User,PU)占用頻段進行通信的前提下[4],次用戶(Secondary User,SU)能夠感知到頻譜中哪些頻帶沒有被占用。認知無線電系統的主要優勢是能夠根據當時的頻譜占用情況選擇最恰當的通信方式。而頻譜感知就是認知無線電的分支之一,是根據SU接收的實時信息,來感知頻段有沒有被PU占用。

目前物聯網中傳統頻譜感知方法主要有匹配濾波檢測[5]、能量檢測[6]以及循環平穩特征檢測[7]等,但傳統方法存在檢測門限難以確定的缺陷。Awe等[8]、Bao等[9]和陳思吉等[10]提出的基于支持向量機(Support Vector Machine,SVM)頻譜感知方法能夠對信號與噪聲進行分類識別,但該方法也存在需要求解特征參數、感知的時間長等缺陷。Liu等[11]、Lee等[12]和張孟伯等[13]所提的方法是將傳統卷積神經網絡(Convolutional Neural Network, CNN)用于處理頻譜感知問題,將接收信號轉換成二維矩陣并進行歸一灰度化處理,作為傳統CNN的數據集,該方法通過訓練CNN提取圖像的特征,將在線數據輸入訓練完成的網絡中進行頻譜感知。該方法的優點在于不用考慮求解特征參數以及檢測門限,但是存在由于網絡結構簡單而導致對特征圖信息利用率低下且提取的特征信息有限等缺陷,從而導致感知性能差。Lee等[12]、蓋建新等[14]所提的方法是用神經網絡來處理融合各個SU的接收信號,協作頻譜感知系統應用于深度協作感知系統中,顯著提升了惡劣感知條件下的頻譜感知性能,但是其在傳輸SU的接收信號時會耗費大量的系統資源和網絡流量,造成不必要的資源浪費。

針對上述文獻提出方法所存在的問題,本文提出了基于改進殘差網絡(Residual Network, ResNeXt)[15]的頻譜感知方法。該方法將頻譜感知問題轉化成圖像二分類問題[16],利用殘差結構提取灰度圖像的高層次特征值,完成頻譜感知。在單節點頻譜感知基礎上,本文提出的基于深度學習的協作頻譜感知算法將各個SU得到的評分向量輸入“軟組合網”[17]訓練直接學習最佳的融合規則,與傳統的協作頻譜感知系統采用特定的融合規則(組合來自分布式節點的決策信息)不同,相比傳統的協作頻譜感知方法有很大的性能提高。

1 系統模型

在物聯網無線認知網絡中,可以根據PU的空閑或繁忙狀態,在SU處的信號檢測可表示為:

(1)

式中:H0表示PU沒有占用頻譜,H1表示PU占用頻譜,y(n)表示SU的接收樣本,n表示信號樣本的長度,s(n)表示PU的發射信號,h表示假定在感測周期內保持不變的信道增益,本文選擇瑞利信道來仿真城市物聯網環境的無線信道環境;w(n)表示均值為0且方差為σ2的高斯分布噪聲。

本文將頻譜感知看作是一個圖像二分類問題,H0和H1分別表示為圖像二分類的結果。檢測概率(Pd)以及虛警概率(Pf)均作為頻譜感知性能好壞的指標。Pd表示當出現PU信號占用頻譜時,SU正確感知到PU信號存在的概率;Pf表示當PU信號沒有占用頻譜時,SU感知成PU信號占用頻譜的概率。Pd和Pf分別表示為:

(2)

一個好的檢測網絡需要同時實現高Pd和低Pf。

2 基于改進殘差神經網絡的單節點頻譜感知算法

針對認知物聯網環境在低噪比(Signal to Noise Ratio, SNR)下感知性能差的問題,本文設計了基于ResNeXt的頻譜感知算法,模型如圖1所示。該算法由數據處理、模型訓練和模型感知3個階段構成。首先,PU信號發射機發射QPSK信號,接收端接收到的信號為:

圖1 頻譜感知模型Fig.1 Spectrum sensing model

s(n)=I(n)+jQ(n),

(3)

式中:I(n)、Q(n)分別表示SU接收到的I、Q兩路信號。對接收端采樣得到信號樣本值為:

y(n)={y1,y2,y3,yi,…,yn},

(4)

式中:yi表示信號樣本y的第i個采樣值,i= 1,2, …,n,n為采樣信號樣本長度,把采樣信號分割成K行、n/K列的二維矩陣。隨之,對其歸一灰度化處理轉成灰度圖,作為神經網絡訓練的數據集。

2.1 數據預處理

本文選擇的瑞利信道仿真出在城市物聯網環境中的無線信道。信號進行串并轉換,通過瑞利衰落信道和加性高斯白噪聲(Additive White Gaussian Noise, AWGN),最終得到有信號的接收信號,白噪聲(White Gaussian Noise, WGN)作為無信號的接收信號。對接收信號進行一系列處理,得到I、Q兩路信號,共同組成原始數據集,即:s(n)=I(n)+jQ(n)。對I、Q兩路信號的n個采樣點轉化成二維數據可得到K行n/K列的矩陣XI與XQ,其表達式分別為:

(5)

(6)

隨后把XI和XQ通過式(7)進行歸一化:

(7)

歸一化后的大小用灰度值來表示,并將歸一化灰度處理后的XI與XQ作為ResNeXt頻譜感知模型的輸入。

2.2 改進殘差網絡模型結構

本文提出的ResNeXt主要借鑒的是殘差網絡(ResNet)的堆疊操作和Inception的拆分-變換-合并操作?；緲嫿▔K如圖2所示。圖2(a)為ResNet的基本構建塊,圖2(b)為ResNeXt的基本構建塊,這2個構建塊的復雜度相同,但采用ResNeXt基本構建塊網絡結構更加模塊化,只要設置少量超參數,網絡準確度更高[11]。其中,X表示基本塊中的一個關鍵超參數,被稱為“cardinality”。本文選擇X=3意味著ResNeXt中每個基本塊中有32個分支。這個數值可以根據具體的模型配置和需求進行調整,以控制模型的復雜度和性能。ResNet是由一系列殘差模塊(Residual Learning Module, RLM)組成的。一個RLM結構包含3個卷積層,其輸入為x,經過殘差塊運算得到輸出F(x),H(x)是這兩部分之和,即:

(a)ResNet

(b)ResNeXt

H(x)=F(x)+x,

(8)

此過程可緩解訓練過程中的收斂問題。

本文提出的改進殘差神經網絡設計由輸入層、卷積層(Conv)、RLM、全連接層、分類標簽和捷徑連接組成。ResNeXt通過捷徑連接能夠映射到更深網絡,有效避免了梯度消失。解決了傳統CNN頻譜感知方法對特征信息利用率低且提取的有用信息有限等問題[8-10]。

本文設計的ResNeXt結構參數如表1所示。其中,在每個卷積層后面都加了個批處理規范化層(Batch Normalization, BN)層和ReLU,其BN層主要作用有:① 節省網絡的訓練時間;② 既能防止梯度爆炸又能避免梯度消失;③ 避免出現過擬合情況。

表1 ResNeXt結構參數

2.3 改進殘差網絡頻譜感知算法

一般情況下,頻譜感知的檢測算法可以表示為:

DRs(y)=argmax(fL(fL-1(fL-2(…f1(y))))),

(9)

式中:輸入y為接收樣本的向量,通過由L層組成的ResNeXt神經網絡進行處理;fi,i=1,2,…,L-1為第i層的權重和激活函數的計算,fL為給出2個假設概率的Softmax函數,argmax為返回列表中最大數的索引的運算符。

假設卷積層的卷積核的非線性函數為H(·),則經過卷積層輸出(殘差層輸入)為:

F0=H(Wyi),

(10)

式中:W、F0分別表示網絡權重參數和卷積層輸出,yi表示輸入的第i張灰度圖像。

ResNeXt神經網絡通過捷徑連接緣故,可以從淺層l到深層L的學習特征,經過殘差層里的卷積層、激活函數等操作,提取灰度圖像數據的特征,Fl表示為:

Fl=HRLM,l(Fl-1)=HRLM,l(HRLM,l-1(…HRLM,1(F0)…))l≥1,

(11)

式中:HRLM,l為第l個RLM的非線性操作函數。

輸入樣本經過所有的RLM特征提取后的FL表示為:

FL=HRLM,L(Fl-1)。

(12)

最后,利用Fc中Softmax函數對接收樣本進行分類,進而檢測出頻譜感知的結果(H0或H1)。輸入輸出的映射圖滿足:

(13)

(14)

(15)

(16)

且滿足

(17)

3 基于深度學習的協作頻譜感知算法

由于單節點頻譜感知方法容易遇到低SNR和隱藏終端的情況,因此,采用單節點檢測的檢測結果作為最后的結果顯然是不可靠的。傳統協作頻譜感知算法的硬判決融合是把各個SU頻譜感知結果傳送至融合中心,雖可以節省傳輸信道帶寬,但存在判斷誤差大、檢測精度低等問題。傳統軟判決融合是將SU感知的數據傳輸到融合中心,檢測性能相對硬判決融合提升了很多,但需要的傳輸帶寬大。

本文采用的協作頻譜網絡為文獻[12]提出的融合中心SoftCombinationNet (SCN)網絡,由3個全連接層組成,如圖3所示。

圖3 協作頻譜感知簡圖Fig.3 Schematic diagram of collaborative spectrum sensing

前2個全連接層分別是32個節點和8個點,所用的激活函數為ReLU函數,第3個全連接層有2個節點,激活函數為Softmax函數。本文提出的基于深度學習的協作頻譜感知方法,先通過基于ResNeXt的單節點頻譜感知算法獲得SU的感知結果(2個假設H0和H1的評分向量pθ(xk))。把各個SU將得到的評分向量傳送至網絡模型中進行訓練,通過網絡的全連接層對各個SU頻譜感知結果進行特征提取。在特征提取后,按照一定的權重對提取的特征進行加權平均融合,這些權重可以通過訓練學習得到,并且在SCN網絡輸出層上應用Softmax函數對融合后的特征進行進一步處理得到協作頻譜感知的最終結果。整個網絡的參數通過監督學習的方式進行訓練,使用帶有標簽的訓練數據進行優化。訓練的目標是最小化預測輸出與真實標簽之間的誤差,以使網絡能夠學習到最佳的軟融合策略。與傳統的協作頻譜感知的SU的決策信息方式不同,本文將各個SU頻譜感知得到的評分向量矩陣作為深度學習模型SCN的輸入,經過訓練能夠直接獲得最好的融合規則,不用人工去設置融合規則,降低了系統消耗成本。協作頻譜感知的流程如圖4所示。

圖4 協作頻譜感知流程Fig.4 Flowchart of collaborative spectrum sensing

4 實驗仿真與結果分析

4.1 數據集生成

在Matlab中生成PU信號為QPSK信號和純噪聲(均值為0、方差為1的WGN),共同組成本文所需的數據,并將其劃分成訓練和測試的數據集,在接收端的信號是采樣點數值為N的I、Q兩路信號,將I、Q兩路信號轉化成K行n/K列的二維矩陣且歸一灰度化進行處理。本節實驗采用的瑞利信道為模擬城市物聯網的通信環境。訓練時網絡中的參數設置按初始化隨機高斯分布,損失函數采用的是交叉熵誤差函數,訓練方法采用的是SGDM優化器。其中,動量因子設置為0.9,學習率設置為0.01。本文在SU接收信號的SNR在-20～0 dB變化,取間距為1 dB。每種SNR下選取500組信號數據,共21 000個信號為PU占據頻譜的訓練集,共選取21 000組WGN信號為PU沒有占據頻譜的訓練集。每個SNR下選取100個樣本作為測試數據。

4.2 算法的性能分析

本文通過多個實驗來分析基于ResNeXt網絡的頻譜感知方法的性能。

實驗1:訓練的次數對于頻譜感知性能的影響

Pd與神經網絡訓練次數的關系如圖5所示。

圖5 檢測概率收斂情況Fig.5 Convergence of detection probability

由圖5可以看出,當神經網絡的訓練次數少于30次時,本文的頻譜感知算法的Pd波動比較大;當神經網絡的訓練次數超過40次時,Pd一直穩定在0.97左右。因此,模型訓練次數選擇40。

實驗2:采樣點數對ResNeXt頻譜感知性能的影響

在進行頻譜感知過程中,通過對PU的接收信號的采樣不同點數。為驗證采樣點數的不同會對ResNeXt頻譜感知的性能產生影響。本實驗分別以采樣點數64、200、400、900、1 600為例,驗證分析采樣點數對頻譜感知的性能影響,如圖6所示。

圖6 感知準確率隨采樣點數的變化Fig.6 The change of sensing accuracy with the number of sampling points

由圖6可以看出,隨著采樣點數的增加,頻譜感知準確率總體先增加然后趨于平穩。當SNR= -14 dB,采樣點數為61、200、400、900、1 600時,頻譜感知的準確率分別為61%、93.5%、93.8%、93.2%、93.6%。因此,對接收信號采樣點不需要太多,采樣點過低,可能導致采取的信息量不夠準確,造成準確率降低。采樣點選擇過多,反而會增加模型的負擔,增加訓練時長。因此,本文選擇采樣點數200最為合適。

實驗3:本文方法與傳統能量檢測算法、SVM、CNN、ResNet算法的頻譜感知精度對比本節實驗的SNR在-20～0 dB以1 dB為間隔。測試時,每種SNR下取SU測得的100個信號數據為測試樣本數據。低SNR下的信號比高SNR下的信號缺少特征信息,信號失真更為嚴重,圖7給出了5種頻譜感知算法在各個SNR下的檢測概率?？梢钥闯?當SNR<-10 dB時,在檢測概率方面ResNeXt與其他頻譜感知算法相比更高。比如在SNR=-18 dB的情況下ResNeXt、ResNet、CNN、SVM和能量檢測單位檢測概率分別為92.1%、86%、72.3%、58%和0。傳統能量檢測算法在低SNR的情況下識別不出是否存在信號,但本文算法在較低SNR的環境下仍然有很好的檢測準確率,性能增益更加明顯?？梢钥闯?本文算法的性能增益在低SNR的情況下明顯優于ResNet、CNN、SVM和能量檢測算法。ResNeXt性能比ResNet好的緣故是ResNeXt殘差網絡只需要設置少量超參數且高度模塊化,模型參數相對較少,降低了模型復雜度。

圖7 各種頻譜感知方法在不同SNR的PdFig.7 Pd of various spectrum sensing methods under different SNR conditions

虛警概率同樣也是驗證頻譜感知性能的指標之一。本文通過統計和記錄多次實驗中的虛警概率及其對應的檢測概率來驗證本文的頻譜感知方法的性能,得到了5種頻譜感知方法的受試者工作特征(Receiver Operating Characteristic, ROC)曲線。

SNR=12 dB時5種算法的ROC曲線如圖8所示。在Pf固定時,本文提出的頻譜感知方法的Pd高于CNN、SVM方法。例如,在Pf為0.1時,ResNeXt、ResNet、CNN、SVM、能量檢測算法的Pd分別為0.96、0.92、0.75、0.46、0。其原因是ResNeXt 頻譜感知方法只需設置少量參數就能使用殘差學習訓練提取信號的淺層和深層的特征,更好地提升了頻譜感知模型的特征提取性能。

圖8 ROC曲線Fig.8 ROC curves

實驗4:比較使用本文方法在不同認知用戶個數與傳統協作頻譜感知方法檢測性能最高的邏輯或(LO)融合準則

協作頻譜感知系統的收斂情況如圖9所示。

圖9 協作頻譜感知系統的收斂情況Fig.9 Convergence of cooperative spectrum sensing systems

在協作頻譜感知網絡中,損失值和準確率是2個重要的指標,用于衡量模型的性能。通常情況下,希望模型的準確率越高越好,損失值越小越好。從圖9可以看出,經過2輪訓練就可以達到高準確率和低損失函數,說明該神經網絡經過短時間訓練就可以達到很好的性能,用該神經網絡代替融合提高了頻譜感知的性能。

基于深度學習的協同檢測系統的性能增益如圖10所示。

圖10 基于深度學習的協同檢測系統的性能增益Fig.10 Performance gain of collaborative detection system based on deep learning

本節實驗考慮了2、3、4個節點的3個協同系統,并將其與傳統協作頻譜感知準確率最好的LO規則融合準則做比較,描述了協同傳感方案的檢測性能。對比本文(SCN)方法和LO的性能,由圖10可以看出,在實際SNR范圍內,即Pd大于90%時,SCN實現了與LO幾乎相同的Pd,但Pf顯著降低,從而證明了本文方法的優越性。

5 結束語

本文提出了基于ResNeXt的單節點頻譜感知方法,解決了傳統CNN依靠網絡深度、過深的網絡引起梯度消失導致頻譜感知低下等問題。結果表明,與傳統的頻譜感知方法相比,該神經網絡在低SNR的檢測性能顯著提高,并且提出的基于深度學習的協作頻譜感知方案的SCN來利用分布式SU節點的軟信息。該方案能夠同時實現高Pd和低Pf,頻譜感知算法性能提升明顯,解決了傳統硬融合方法檢測性能低、軟融合數據量大、處理復雜等問題。