采用混合核支持向量機的DOA估計*

孫菲艷,田雨波,任作琳

(江蘇科技大學電子信息學院，江蘇鎮江　212003)

采用混合核支持向量機的DOA估計*

孫菲艷**,田雨波,任作琳

(江蘇科技大學電子信息學院，江蘇鎮江212003)

人工神經網絡(ANN)進行建模時通常需要準備大量的數據樣本,同時網絡結構一般都比較復雜;而采用支持向量機(SVM)進行建模時,不同核函數有不同的效果,各有利弊,且選取SVM模型參數的理論支撐尚不完整。為了解決這些問題,提出了一種基于混合核函數的支持向量機來改善來波到達角(DOA)的估計性能,并結合二進制粒子群算法(PSO)來對混合核函數進行參數尋優。該混合核函數由全局核函數和局部核函數構成,提高了SVM的泛化能力和學習能力。首先通過擬合多項式函數,驗證了該混合核SVM的有效性。將該方法用于DOA估計建模,在不同信噪比和快拍數下,通過與徑向基函數(RBF)神經網絡、基于各單一核函數的SVM和MUSIC算法預測結果對比,混合核SVM均方差有所降低,提高了DOA估計的精度且有更好的穩定性。

波達角估計;支持向量機;混合核函數;粒子群算法

引用格式:孫菲艷，田雨波，任作琳.采用混合核支持向量機的DOA估計[J].電訊技術，2016，56(3)：302-307.[SUN Feiyan，TIAN Yubo，REN Zuo1in.DOA estimation with suPPort vector machine based on hybrid kerne1[J].Te1ecommunication Engineering，2016，56(3)：302-307.]

1　引 言

波達方向(Direction of Arriva1，DOA)估計算法作為智能天線的關鍵算法之一，已經被廣泛應用在雷達、蜂窩通信、衛星通信等領域，主要目的是抗干擾并實現精確估計空間上互不相關信號的波達方向。傳統的DOA估計方法主要有MUSIC算法[1]、ESPRIT算法[2]等，但是這些算法的主要缺點是需要進行相關矩陣的滿秩估計，運算量較大，會導致運算時間較長。

隨著計算機科學的迅速發展，由于神經網絡(Neura1 Network，NN)有適合非線性映射、收斂速度快等優點，已經被用來進行DOA估計[3-5]，但是NN結構設計較為復雜，容易造成過擬合現象且輸出結果隨機性較大，在不同的信噪比(Signa1-to-Noise Ratio，SNR)情況下往往需要大量的訓練樣本，且對于高維網絡輸入有時難以得到令人滿意的結果。而支持向量機(SuPPort Vector Machine，SVM)是一種針對小樣本學習的機器學習方法，適合解決非線性映射問題且泛化能力較強，已經有文獻將其用于DOA估計。Pastorino等人于2005年提出了用SVM回歸來進行DOA估計[6]；Randazzo等通過與傳統MUSIC算法對比得出用SVM回歸進行DOA估計有更好的預測精度[7]；李鵬飛等通過提取已知方向來波信號在天線陣元間感應的相位差作為模型的輸入，利用支持向量回歸機對復雜函數的逼近能力構建了方向估計模型，使得模型對低信噪比具有較強的適應能力[8]；Seetha H等人提出了多內核SVM學習方法，實驗性能超出了傳統的SVM回歸性能[9]。本文主要是用SVM方法來進行DOA估計，并且采用基于混合核函數的SVM來加強估計精度、提高泛化能力，混合核函數的各個參數和SVM中的懲罰系數均采用二進制粒子群算法(Partic1e Swarm OPtimization，PSO)進行參數尋優，為提高DOA估計精度提供了一種新的途徑。

2　DOA估計模型

設M個非相干窄帶信號入射到陣元間距為d的N個相同陣元均勻排列的直線陣上(M＜N)，入射角即波達方向為θ=[θ1，θ2，…，θM]，第i個天線陣元在t時刻接收到的信號為

式中：sm(t)是第m個窄帶信號；ni(t)表示均值為0、方差為σ2的加性高斯白噪聲。

天線陣列接收到的信號矩陣形式表示為

式中：A(θ)為N×M維的方向矩陣；S(t)為包含了復雜的幅值信息的M×1維信號矢量；N(t)為N×1維矢量；X(t)為在時刻t接收到的信號，具體如下：

式中：a(θm)為陣元間距為d的均勻線陣的陣列響應矢量，即

最終，接收信號的M×M維協方差矩陣可以表示為

式中：I為單位矩陣；σ2為加性高斯白噪聲的方差；H表示矩陣的共軛轉置。因為Rx是對稱陣，元素R(i，j)和R(j，i)的信息相同，且主對角線元素不包含任何信號的方位信息，常選擇由M(M-1)/2個元素構成的上三角矩陣來構建模型的輸入向量：

天線接收的不是理想的窄帶信號，向量b中的每個元素需要按照實部和虛部分成兩個元素，為M(M-1)維向量b1，并將其歸一化后作為輸入：

式中：‖b1‖表示b1的歐式范數。

由于Rx中含有波達方向θ的信息，因此天線陣列可以看作一個從DOA空間{θ}到天線陣列接收到信號的協方差矩陣的歸一化處理之間的映射G：θ→z，而基于混合核函數的PSO-SVM進行DOA估計時，就是構建天線陣列接收信號矢量到來波方向角空間的反變換F：z→θ，以達到對來波方位的估計，即輸入為上式歸一化后的由協方差矩陣上三角陣組成的向量z，輸出為來波角度θ。

3　基于PSO優化混合核SVM的DOA估計

3.1基于支持向量機的DOA估計

SVM進行DOA估計的主要思想是通過非線性映射將樣本空間映射到高維的特征空間，在高維特征空間中通過一個線性超平面實現線性回歸。在DOA估計過程中，通過引入懲罰系數C將尋找最優線性回歸超平面的算法轉化為求解一個凸約束條件下的凸規劃問題[10-12]，SVM在高維空間中構造的最優回歸函數為

式中：L為支持向量機數；α和α'i及b要通過最小化回歸風險得到；ψ(zi，z)為核函數，因此SVM回歸只需要確定核函數及其參數和懲罰系數C。目前常見的核函數有[13]多項式核、高斯徑向基核、Sigmoid核和柯西核函數。

3.2混合核函數

SVM的核函數可以分為兩大類：全局核函數和局部核函數[13]。多項式核函數是一種典型的全局核函數，有很好的外推能力即泛化能力較強；而柯西核函數是一種局部核函數，學習能力較強，且柯西核函數運算簡單，它避免了高斯核和小波核復雜的指數運算，因此選擇了這兩種核函數。

SVM對于不同的核函數有不同的回歸預測效果，為了同時擁有全局核函數和局部核函數的優點，將上述的柯西核函數(k)和多項式核函數(Po1y)線性組合構成一種新的混合核函數。設多項式核函數的系數為α(0＜α＜1)，柯西核函數的系數為1-α，即

式中：多項式核函數中的c取值為1；多項式核函數中的d和柯西核函數中的u、權系數α以及懲罰系數C均為需要優化的參數。該混合核函數兼具了局部核函數較好的學習能力和全局核函數較好的泛化能力，使得基于該核函數的SVM有良好的預測能力，預測精度比組成該混合核函數的各單一核函數高。

3.3基于粒子群優化算法的混合核函數

粒子群優化(Partic1e Swarm OPtimization，PSO)算法是由Eberhart和Kennedy提出的，主要通過研究鳥群覓食行為啟發而來[14]。在PSO算法中，優化問題中的所有可能解可以被看作是搜索空間中的一個位置，稱為粒子。每個粒子都有一個相應的適應值，算法不僅記錄了粒子目前的位置，還記錄了到現在為止該粒子曾達到過最好適應值的位置和群體中所有粒子曾達到過最好適應值的位置。所有粒子都有各自飛翔的方向和位移，由速度矢量v決定。PSO初始化為一群隨機粒子，然后根據最優粒子的位置，粒子們在解空間中搜索，并通過下式迭代找到最優解[15]：

式中：t和t+1是進化代數；xt和vt分別是當前粒子在第t次迭代時候的位置和速度；ω是慣性權值；c1、c2是加速因子，分別表示粒子的自我和社會認知能力，均是定值；rand()表示0～1之間的隨機數；pt表示個體極值的位置；gt表示全局極值的位置。

上述構造的混合核函數中需要用PSO算法優化的參數有多項式核函數中的d(d＞0)、柯西核函數中的u(u＞0)、權系數α(0＜α＜1)以及懲罰系數C(C≥0)。

用設計好的混合核函數對式(12)～(14)表示的函數進行擬合，輸入樣本集合為在區間(-2，2)上均勻選取的41個數據點，輸出為各個函數對應的函數值：

以三次函數y2為例，用PSO對混合核函數進行參數尋優后，得到的最優參數組合為最終選取參數優化組合為d=4.228 5，u=1，α=0.790 5，C= 759.764 1；多項式優化參數組合為d=4.243 6，C= 200；柯西核函數用PSO算法得到的參數優化組合為u=1.519 9，C=67.078 6。仿真實驗在MATLAB R2013a中編程實現，不同的待擬合函數用PSO算法優化可以得到不同的參數組合值。表1給出了基于不同核函數的SVM擬合不同函數所對應的均方誤差(Mean Square Error，MSE)，可以看出，基于混合核函數的SVM擬合的MSE比多項式核函數和柯西核函數的MSE均要小，說明基于混合核函數的SVM可以提高函數擬合精度。

表1　不同方法擬合的均方誤差Tab.1 Fitting MSE with different methods

4　基于混合核函數的PSO-SVM用于DOA估計建模

基于混合核函數的PSO-SVM進行DOA估計的具體步驟如下：

(1)由公式編程計算入射角的協方差矩陣，提取協方差矩陣的上三角部分，并進行實部和虛部的分離組成一組列向量；

(2)將該組列向量進行歸一化處理；

(3)在不同信噪比的情況下，用PSO對混合核函數的參數及SVM的懲罰系數進行參數尋優，找到每組樣本對應的最佳參數；

(4)代入最佳參數，對每組測試樣本進行DOA估計。

5　數值仿真實驗

5.1兩個信號源的不同方法比較

假設兩個非相干的正弦信號源，快拍數L= 500，信噪比15 dB，均勻線陣陣元數目12，陣元間距為波長的一半，訓練樣本162組，兩個信號源間隔10°(均是81組)，預測樣本158組，兩信號源間隔為12°。用基于混合核函數的SVM對上述的樣本進行訓練和預測，同時用RBF-NN對相同的樣本進行了訓練和預測，實驗中發現RBF-NN穩定性不是很好，通過多次試驗，選取了其中一組較好的估計結果，如圖1所示。

圖1　不同方法估計結果Fig.1 Estimation resu1ts by different methods

從圖1可以看出測試值和實驗值基本吻合，基于混合核的SVM比神經網絡估計效果更好。為了進一步比較混合核函數和單一核函數的預測精度區別，表2給出分別用上述不同方法得到的DOA估計的MSE及均方根誤差(Root Mean Square Error，RMSE)。從表2中可以發現，基于混合核函數的SVM估計的均方誤差最小，有較好的估計精度。

表2　DOA估計誤差Tab.2 DOA estimation error

5.2不同方法在不同信噪比下的性能比較

實驗目的是比較不同信噪比下的均方根誤差，通過比較基于混合核函數的SVM估計、基于單核的SVM估計與傳統MUSIC算法的估計，證明基于混合核函數的SVM相比其他兩種方法有更好的預測精度且運算時間較短。設定信號源數目為2個，快拍數L=500，信噪比依次為-5 dB、0.5 dB、10 dB、15 dB、20 dB、25 dB，均勻線陣陣元數目12，陣元間距是波長的一半，訓練樣本162組，兩個信號源間隔10°(均是81組)，預測樣本158組，兩信號源間隔為12°。分別用基于混合核函數的SVM、基于單核(多項式核)的SVM和MUSIC算法來對上述指定樣本進行訓練和預測。通過實驗得知，柯西和函數在此樣本訓練預測下，對于不同的信噪比估計誤差均較大，選取了單核誤差中相對較小的多項式核函數進行對比實驗。在用SVM訓練預測的過程中，用PSO方法進行參數優化，在不同信噪比及不同核函數下均可以得到不同的最佳參數組合值。圖2給出了用3種方法在不同信噪比下的均方誤差，可以看出，對于每個不同的信噪比，基于混合核函數的SVM估計精度均比基于單一核函數的估計、MUSIC算法估計精度高；隨著信噪比的增大(高斯白噪聲)，均方根誤差逐漸減??；在信噪比大于15 dB之后，均方根誤差均小于1且逐漸趨于穩定，通過MATLAB計算運行時間得知，基于混合核函數的SVM、基于單一核函數的SVM、MUSIC算法對一組來波方位角的平均估計時間分別為0.002 s、0.001 9 s、0.008 1 s，由此可以看出本文提出的基于混合核函數的SVM估計算法相比傳統MUSIC算法運算時間更短、估計精度較高。

圖2　不同信噪比下的均方根誤差Fig.2 RMSE with different SNR

5.3不同方法在不同快拍數下的性能比較

分析快拍數對基于混合核函數的SVM估計和基于單核的SVM估計的影響。采用12陣元的均勻直線陣，陣元間距為波長的一半，快拍數從100到500每隔100取一個值，接收數據信噪比15 dB，訓練樣本162組，兩個信號源間隔10°(均是81組)，預測樣本158組，兩信號源間隔為12°。每次快拍數下做10次估計實驗后取平均值，比較不同快拍數下基于混合核和單核的SVM的估計均方根誤差。從圖3中可以看出，隨著快拍數的增多，兩方法估計性能均變好，但是基于混合核的SVM估計性能始終優于基于單核(多項式核)的SVM估計。

圖3　不同快拍數下的均方根誤差Fig.3 RMSE with different snaPshots

6　結束語

為了進一步提高用SVM來進行DOA估計時的預測精度，本文結合采用PSO優化參數的混合核函數來提高DOA估計準確度。該混合核函數兼具了局部核函數的學習能力強和全局核函數的泛化能力強的優點，使得SVM預測誤差更小、精度更高、模型性能更好，克服了NN設計結構復雜、網絡結構不穩定等缺點，預測結果也優于基本RBF-NN的結果，且預測精度和運算速度均高于傳統MUSIC算法。同時，由于SVM有小樣本學習的優點，而電磁問題的仿真一般需要昂貴的時間代價和測量代價，因此該混合核SVM也適用于對其他復雜電磁問題的建模。

[1] 盧新文.基于提升小波算子的MUSIC法的DOA估計[J].電訊技術，2010，50(12)：33-38. LU Xinwen.DOA estimation based on 1ifting wave1et MUSIC method[J].Te1ecommunication Engineering，2010，50(12)：33-38.(in Chinese)

[2] ROY R，KAILATH T.ESPRIT-estimation of signa1 Parameters via rotationa1 invariance techniques[J].IEEE Transactions on Acoustics SPeech&Signa1 Processing，1989，37(7)：984-995.

[3] VIGNESHWARAN S，SUNDARARAJAN N，SARATCHANDRAN P.Direction of arriva1(DoA)estimation under array sensor fai1ures using a minima1 resource a11ocation neura1 network[J].IEEE Transactions on Antennas and ProPagation，2007，55(2)：334-343.

[4] 孟非，王旭.基于PSO-BP神經網絡的DOA估計方法[J].電訊技術，2012，52(5)：694-698.

MENG Fei，WANG Xu.DOA estimation method based on PSO BP neura1 network[J].Te1ecommunication Engineering，2012，52(5)：694-698.(in Chinese)

[5] 王榮秀，田雨波，張貞凱.基于局部保持投影和RBF神經網絡的DOA估計[J].科學技術與工程，2013，13 (24)：7054-7058.

WANG Rongxiu，TIAN Yubo，ZHANG Zhenkai.DOA estimation based on 1oca1 Projection and RBF neura1 network[J].Science and Techno1ogy and Engineering，2013，13(24)：7054-7058.(in Chinese)

[6] PASTORINO M，RANDAZZO A.A smart antenna system for direction of arriva1 estimation based on a suPPort vector regression[J].IEEE Transactions on Antennas and ProPagation，2005，53(7)：2161-2168.

[7] RANDAZZO A，ABOU-KHOUSA M A，PASTORINO M，et a1.Direction of arriva1 estimation based on suPPort vector regression：exPerimenta1 va1idation and comParison with MUSIC[J].IEEE Antennas and Wire1ess ProPagation Letters，2007(6)：379-382.

[8] 李鵬飛，張旻.基于SVM的來波方向估計方法[J].系統工程與電子技術，2009，31(11)：2571-2574.

LI Pengfei，ZHANG Min.DOA estimation method based on SVM[J].Systems Engineering and E1ectronics，2009，31(11)：2571-2574.(in Chinese)

[9] SEETHA H，SARAVANAN R，MURTY M N.Pattern synthesis using mu1tiP1e kerne1 1earning for efficient SVM c1assification[J].Cybernetics and Information Techno1o-gies，2013(12)：77-94.

[10] VAPNIK V N.The nature of statistica1 1earning theory [J].IEEE Transactions on Neura1 Networks，195，10 (5)：988-999.

[11] 張學工.關于統計學習理論與支持向量機[J].自動化學報，2000，26(1)：32-42.

ZHANG Xuegong.Introduction to statistica1 1earning theory and suPPort vector machines[J].Acta Automation Sinica，2000，26(1)：32-42.(in Chinese)

[12] VAPNIK V.Statistica1 1earning theory[M].New York：Wi1ey-Interscience，1998.

[13] SCH?LKOPF B，SMOLA A.Learning with kerne1s：suPPort vector machines，regu1arization，oPtimization，and beyond[J].Journa1 of the American Statistica1 Association，2003，98(3)：489-489.

[14] EBERHART R，KENNEDY J.A new oPtimizer using Partic1e swarm theory[C]//Proceedings of the 6th Internationa1 SymPosium on Micromachine and Human Science.Nagoya，JaPan：IEEE，1995：39-43.

[15] 田雨波，李正強，王建華.矩形微帶天線諧振頻率的粒子群神經網絡建模[J].微波學報，2009，25(5)：45-50.

TIAN Yubo，LI Zhengqiang，WANG Jianhua.Mode1 resonant frequency of rectangu1ar microstriP antenna based on Partic1e swarm neura1 network[J].Journa1 of Microwave，2009，25(5)：45-50.(in Chinese)

孫菲艷(1991—)，女，江蘇徐州人，2013年于江蘇科技大學獲學士學位，現為碩士研究生，主要研究方向為智能信息處理與系統等；

SUN Feiyan was born in Xuzhou，Jiangsu Province，in 1991.She received the B.S.degree from Jiangsu University of Science and Techno1ogy in 2013.She is now a graduate student.Her research concerns information Processing and systems.

Emai1：826029488@qq.com

田雨波(1971—)，男(滿族)，遼寧人，博士，教授、碩士生導師，主要研究方向為計算智能及其電磁學應用；

TIAN Yubo was born in Liaoning Province，in 1971.He is now a Professor with the Ph.D.degree and a1so the instructor of graduate students.His research concerns comPutationa1 inte11igence and e1ectromagnetic fie1ds.

任作琳(1991—)，女，遼寧人，2013年于江蘇科技大學獲學士學位，現為碩士研究生，主要研究方向為智能優化算法等。

REN Zuo1in was born in Liaoning Province，in 1991.She received the B.S.degree from Jiangsu University of Science and Techno1ogy in 2013.She is now a graduate student.Her research concerns inte11igent oPtimization a1gorithms.

DOA Estimation with Support Vector Machine Based on Hybrid Kernel

SUN Feiyan，TIAN Yubo，REN Zuo1in
(Schoo1 of E1ectronics and Information，Jiangsu University of Science and Techno1ogy，Zhenjiang 212003，China)

A 1arge number of samP1es and comP1ex structure are needed when mode1ing with artificia1 neura1 network(ANN).And each ordinary kerne1 function of suPPort vector machine(SVM)has advantages and disadvantages.Moreover，the theory for se1ecting the Parameters of SVM mode1 is sti11 incomP1ete.In order to so1ve these Prob1ems，SVM based on hybrid kerne1 function is ProPosed to imProve the Performance of the direction of arriva1(DOA)estimation，in which the Parameters of SVM and weight coefficient of the hybrid kerne1 are oPtimized by binary Partic1e swarm oPtimization(PSO)a1gorithm.The hybrid kerne1 function obtains high genera1ization abi1ity and 1earning abi1ity.First1y，the Po1ynomia1 functions are used to test the SVM based on hybrid kerne1 function and the method is verified to be effective.Fina11y，the method is used for mode1ing DOA estimation，and the mode1 is va1idated by comParing its resu1ts with those of RBF neura1 network(NN)and SVM based on a sing1e kerne1 function and MUSIC a1gorithm.ExPeriments show that the method imProves the DOA estimation accuracy and can achieve stab1e resu1ts.

direction of arriva1 estimation；suPPort vector machine；hybrid kerne1 function；Partic1e swarm oPtimization

The Nationa1 Natura1 Science Foundation of China(No.61401179)

TN911.72

A

1001-893X(2016)03-0302-06

10.3969/j.issn.1001-893x.2016.03.012

2015-07-23;

2015-10-30 Received date:2015-07-23;Revised date:2015-10-30

國家自然科學基金資助項目(61401179)

**通信作者:826029488@qq.com Corresponding author:826029488@qq.com