?

智能反射面賦能的聯邦邊緣學習及其在車聯網中的應用

2023-11-19 06:52王平楊志偉李賀舉
通信學報 2023年10期
關鍵詞:反射面聯邦信道

王平,楊志偉,李賀舉

(1.同濟大學電子與信息工程學院,上海 201804;2.上海自主智能無人系統科學中心,上海 201210)

0 引言

作為物聯網中一個有潛力的研究分支,車聯網可有效改善道路安全問題和駕駛者的駕乘環境,有望成為智能交通系統中重要的數據傳輸與控制平臺。同時,隨著下一代無線網絡的蓬勃發展,以機器學習為核心的應用方案在分析車聯網邊緣數據方面發揮著重要的作用,可進行自主化的推理、建模以及決策[1]。然而,由于無線資源限制、時延約束及數據隱私安全方面的挑戰,強迫車聯網移動終端將其收集的本地隱私數據上傳到中心節點(如云服務器進行集中模型訓練)是不切實際的。為此,聯邦邊緣學習(FEEL,federated edge learning)通過允許分布式終端設備在數據本地化的前提下共享本地模型協同訓練,避免敏感數據通過無線信道傳輸,從而有效地保證了車聯網終端隱私和數據安全[2]。此外,中心節點從云服務器下沉到網絡邊緣,使移動終端只需與基站(BS,base station)端通信,由此顯著降低通信成本,克服由網絡擁塞導致的過度傳播時延問題[3]。然而,由于采樣對象或采樣終端規格存在差異,移動終端數據往往是非獨立同分布(non-IID,not identically and independently distributed)的,即各終端的本地數據往往不服從同一分布,表現出較大的差異性[4]。當數據是獨立同分布(IID,identically and independently distributed),即局部分布相同時,局部損失函數在大量樣本上收斂于相同的期望損失,而non-IID 數據則會影響全局模型的預測準確率,阻礙全局模型收斂,從而使聯邦學習任務不能取得預期效果。

同時,由于移動終端通過無線信道連接到基站,基站端接收到的模型參數不可避免地受到信道衰落和加性噪聲的影響[5]。由于終端間的無線環境不同,其與基站端的通信鏈路也存在較大的異構性。因此,在模型更新過程中設計有效的上行通信系統是FEEL 訓練的關鍵問題。針對上行通信設計,目前已有研究主要利用正交信道來實現本地模型的并發上傳[3,6],以盡可能地避免終端干擾,然而,當邊緣終端數量較多時,此種通信方式通信效率低下,且所需帶寬資源較多。針對此問題,有工作設計了基于空中計算(Aircomp,over-the-air computation)的FEEL 無線聚合方案,以提升頻譜效率。然而,絕大多數工作側重于IID 設定下的空中計算分析與設計,其并未統籌考慮通信及non-IID 數據分布對空中聯邦學習性能的影響。同時,由于無線環境的不可調控性,如何設計高效的空中聚合方案,并統籌規劃無線資源分配方案,從而在有限資源約束下最大化聯邦性能收益,仍然是一個亟待解決的問題。

近年來,智能反射面(RIS,reconfigurable intelligent surface)作為一種極具前景的通信新范例,引起了無線通信領域的普遍關注,其可為5G 和6G系統提供智能且可重構的無線信道傳輸環境。具體來說,智能反射面是一個二維平面,其由大量無源反射元件構成,并且每個元件都能對入射信號獨立產生一個可控的振幅和(或)相位,這從根本上解決了無線信道衰落損傷和干擾問題?;诖?,文獻[7-8]將RIS 引入基于空中計算的FEEL 框架中,并以理論和實驗證明RIS 在緩解空中聚合誤差方面的有效性,然而,其工作依賴于IID 數據分布的假設。

為此,本文提出了一種non-IID 數據分布下智能反射面賦能的空中聯邦邊緣學習可靠通信方案。具體來說,本文利用智能反射面的信道可重構性來提高接收信號功率,并利用空中計算實現聯邦邊緣學習模型的快速聚合。本文的主要貢獻如下。

1) 本文設計了智能反射面賦能的空中計算模型聚合方案。通過分析由non-IID 數據分布和無線信道衰落聯合造成的模型聚合誤差,本文推導出non-IID 環境下聯邦邊緣學習的訓練損失上界。

2) 通過分析收斂損失上界,本文進一步構造關于收發端波束成形方案和RIS 相移矩陣的“通信-學習”優化問題,并引入一種低復雜度的凸近似策略,將非凸無線資源優化問題解耦,直到算法收斂。

1 相關工作

隨著5G 技術的發展,移動邊緣計算(MEC,mobile edge computing)[9-10]正在成為未來網絡的一項關鍵技術,以在邊緣網絡下實現超低功耗和超低延遲應用。聯邦邊緣學習通過結合聯邦學習和MEC,可有效增強邊緣數據隱私和安全保障,以提供完備的邊緣智能服務[11-12]。

然而,由于無線信道衰落和資源的有限性,通信效率成為在有低時延、隱私和安全保障需求的無線網絡中大規模部署聯邦學習的關鍵性能指標[3,6,13-14]。為此,文獻[6]聚焦正交多址接入技術,分析了無線數據包傳輸誤差對模型參數更新過程的影響,并通過優化用戶選擇和上行鏈路資源塊分配方案,最小化訓練損失。然而,基于正交多址接入的聚合方式擁有極低的頻譜利用效率,其所需通信資源隨著網絡規模的增加而線性增長。針對這一問題,文獻[13-14]研究了基于Aircomp的非正交多址接入聚合方案,其利用多址信道的波形疊加特性,將終端在寬帶信道上同時傳輸的梯度更新進行模擬空中聚合,以此降低聯邦學習通信開銷,提升頻譜資源利用效率。

然而,就現有的工作來說,基于Aircomp 的聯邦學習聚合方案依然面臨著一些亟待系統性研究的挑戰,如弱信道補償問題。具體來說,實現空中更新聚合需要從不同移動終端接收到的模型參數具有相同的振幅,因此,空中計算網絡需要通過功率控制補償不同終端的信道衰落,以滿足空中計算所需的信道一致性,因此其性能會受限于邊緣終端的弱信道,這在一定程度上損失了空中計算網絡的通信性能增益。針對此問題,有必要刻畫空中計算網絡通信誤差對聯邦學習性能的影響,以此實現最優的“通信-學習”折中。文獻[15-16]分別使用數據比例和所選終端數量來近似學習性能,并通過調整通信錯誤容忍度約束來實現“通信-學習”的統一規劃。然而,上述工作可能不能完全描述聯邦學習的訓練性能,從而導致系統性能的損失。為解決這一問題,文獻[17]開發了統一的聯邦學習分析框架,來定量地描述模型聚合誤差對空中計算FEEL 收斂性的影響,然而,其工作側重于IID 數據分布下的學習設計,這一定程度上與聯邦學習的non-IID 特性相違背。為此,文獻[18]通過引入non-IID 數據分布引發的訓練誤差,設計了一種基于Aircomp的無線聚合方案,然而,其未考慮到FEEL“通信-學習”的聯合設計問題。

綜上,如何在non-IID 數據分布設定下,聯合量化信道衰落及數據異構對聯邦學習性能的影響,以此設計合理的無線資源分配方案,從而在有限的資源約束下最大化聯邦性能收益,仍然是現階段聯邦學習亟待解決的重要問題。

2 問題描述

2.1 聯邦學習模型

如圖1 所示,本文考慮由一個J根天線的基站和K個單天線邊緣終端組成的聯邦邊緣學習系統,其中部署了智能反射面輔助通信。邊緣終端k∈{1,2,…,K}存有本地數據集Dk,其由已標記的Dk對數據樣本特征和關聯標簽z={x,y} 組成。假設終端在基站的協調下合作訓練一個全局模型參數向量w∈RD。定義損失函數f(w,z),其量化模型w在訓練樣本z={x,y} 上的預測偏差。那么,從形式上來說,邊緣終端k的局部學習目標是最小化本地數據集Dk上的經驗損失函數,即

圖1 系統模型

由此,聯邦學習的全局優化目標可表示為

具體來說,聯邦邊緣學習框架可分為如下步驟。

1) 基站端將當前的全局模型(由最新的權重向量wt描述)廣播給邊緣終端。

2) 每個邊緣終端將wt賦值給本地模型,即=wt,并使用其本地數據集在接收到的全局模型基礎上來更新本地模型。為了降低non-IID 分布對學習性能的影響,首先利用FedProx算法[19]限制局部模型相對于全局模型的偏離程度,此時,終端k的局部學習目標可改寫為

假定終端使用小批量隨機梯度下降(SGD)本地訓練E次迭代生成,其中單次更新過程總結為

2.2 RIS 賦能的空中計算模型

假設一個塊衰落信道模型,其中信道系數在整個訓練過程中保持不變。值得說明的是,本文的設計可容易擴展到非塊衰落信道時的情況,僅需要在每次迭代開始之前適當地進行信道估計和參數求解。RIS 由L個被動反射元件組成,記為L? {1,2,…,L},其與控制器關聯,并且,控制器通過調節RIS 元件的反射系數來控制信號反射。在RIS 控制器和BS 之間部署了單獨的控制鏈路,以獲取反射系數設計所需的信息[18]。定義終端k-BS、終端k-RIS 和RIS-BS 的信道系數分別為∈CJ、∈CL和G∈CJ×L。并且,對于每個信道,假設信道狀態信息(CSI)在BS 和RIS 上都能完美估計。假設FEEL 模型聚合過程中,RIS 相移保持不變。Θ=diag {θ} ∈CL×L表示 RIS 相移矩陣,其中,=1。

如上所述,終端k-BS 路徑有效信道系數可表示為

本文擬采用空中計算技術實現FEEL 模型的快速聚合。具體來說,邊緣終端使用相同的無線電資源并發地傳輸其本地模型更新。接著,BS 利用信道的信號疊加特性,從接收到的信號中恢復聚合模型。與傳統的正交多路訪問協議(終端使用正交信道傳輸)相比,空中計算的帶寬需求或通信時延不隨終端數量的增加而增加,極大地緩解了FEEL 中的通信壓力。

在第t輪模型聚合中,將梯度傳輸時間劃分為D時隙。定義時隙d∈{1,…,D}中終端k的發射信號為{[d]},則BS 端處對應的接收信號 {yt[d]},其為直線信道與終端-RIS-BS 級聯信道信號的疊加,即

其中,n[d]∈CJ表示加性白高斯噪聲(AWGN)向量,其分量服從分布 CN(0,)。

2.3 基于空中計算的模型聚合

將式(10)代入式(8),BS 端在時隙d上的接收信號為

3 收斂分析及問題建模

接下來,著重闡述RIS 賦能的聯邦邊緣學習系統收斂理論,并具體分析無線信道及RIS 對空中聯邦學習全局模型收斂上限的影響。

3.1 基礎假設

首先,對用于收斂性分析的假設和定義進行說明。

上述假設在聯邦學習收斂性分析中被廣泛地采用,參考文獻[16,20-21]。

3.2 收斂分析

在上述假設的基礎上,本節給出RIS 賦能的空中聯邦邊緣學習系統收斂性定理。

證明過程見附錄1。

上述收斂上界依賴于聯邦邊緣學習系統通信環境的配置,即智能反射面相位設計和收發端波束成形設計。直觀地說,由通信引入的誤差會累積起來,并反映在新的全局模型中,從而影響FEEL 的收斂性。若上述通信配置設計得當,收斂速度可以在很大程度上得到保證。由定理1 還可以看出,收斂上界與超參數有一定的單調關系。例如,邊界隨著E的增大而增大,這與文獻[22]的結果一致。并且non-IID 數據分布的影響體現在Γ引入的誤差項上。當Γ減小時,收斂上界單調減??;當Γ趨于零時,可得到IID 數據分布的收斂上界。

3.3 問題建模

參照定理1,空中計算通信系統會在收斂上界中引入一個誤差項,其揭示了智能反射面相位偏移設計和收發端波束成形對收斂速度和學習性能的影響。越大,學習性能越差。由此,可以建立一個關于收發端波束成形方案和RIS 配置矩陣的“通信-學習”優化問題,表示為

4 聯合優化

上述問題仍然是非凸的。為此,本文采用拉格朗日對偶算法將其近似。定義拉格朗日對偶向量ξ=[ξ1,ξ2,…,ξK]T≥0,則上述對偶問題表示為

由此,f(i+1)和θ(i+1)可通過求解以下的優化問題得到

等式成立。ξ可通過求解以下優化問題得到

當式(29)用凸優化求解器求解時,若采用內點法,其最壞情況復雜度上界為O(K3)。假設最大迭代次數為Imax,則 SCA 策略復雜度上界為O(ImaxK3)。

5 實驗設計與分析

接下來,通過仿真實驗評估所提方法的性能,并與幾種基準方案作比較。

5.1 實驗設定

如圖2 所示,本文考慮三維笛卡兒坐標系下的仿真設定。其中,BS 和RIS 分別放置在(-50,0,10)和(0,0,10)處。邊緣終端隨機分布在2 個半徑為10 m的圓形區域,即區域 I ∝ {(x,y,0):-20≤x≤0,-10≤y≤10}以及區域Ⅱ ∝{(x,y,0):100≤x≤120,-10≤y≤10}。簡單起見,假設終端中有一半隨機分布在區域I,另一半隨機分布在區域Ⅱ。

圖2 仿真設定

與文獻[18]類似,本文相關信道系數定義為大尺度衰落和小尺度衰落之積。具體來說,小尺度衰落服從標準高斯分布,并且終端到基站端的路徑損耗模型表示為

其中,GBS和GD分別表示基站端和終端的天線增益;fc表示載波頻率;PL 表示路徑損耗因子;表示終端到基站端的距離。終端-RIS-BS 的路徑損耗模型建模為

其中,GRIS表示RIS 端的天線增益;dx和dy分別表示RIS 單元的水平和垂直大??;dRB及dDR分別表示RIS 到基站端的距離以及終端到RIS 端的距離。如無特別說明,仿真參數如表1 所示。

表1 仿真參數

在FEMNIST 數據集[24]上執行圖像分類任務,以驗證所提方法性能。具體來說,首先構建一個4 層的卷積神經網絡(CNN),其中包括2 個5×5 卷積層以及2 個全連接層。為了展現所提方案(OPT)的性能,本文設置了如下的基準方案進行了性能比較。

1)DGP:無RIS 輔助通信,即θ=0。通過微分幾何規劃[25],設計接收機波束成形矢量f,以最小化通信均方誤差。

2) RDGP:采用隨機RIS 相移,并通過微分幾何規劃,設計接收機波束成形矢量f,以最小化通信均方誤差。

3)SDR:針對問題P,RIS相移θ以及接收機波束成形矢量f通過半正定松弛算法[26]迭代優化。

此外,將無噪聲傳輸方案(S-FedAvg)作為性能上界,用于比較。

5.2 性能分析

圖3 展示了non-IID 設定下的聯邦學習測試精度比較。從圖3 可以看到,本文方案取得了比其他基準方案更優異的收斂性能。并且,值得一提的是,相較于無RIS 輔助的DGP 設計,除了本文方案,其余3 種方案都實現了顯著的性能提升,這證明了在non-IID 設定下,RIS 同樣可以提高空中FEEL系統準確性。

圖3 non-IID 設定下的聯邦學習測試精度比較

圖4 展示了IID 設定下(即Γ=0)的聯邦學習測試精度比較。從圖4 可以看出,相較于non-IID設定,SDR、OPT 以及S-FedAvg 皆實現了一定程度的性能提升,原因在于,當Γ=0時,定理1 所示的收斂上界中消除了關于non-IID 數據分布的誤差項,提升了學習性能。

圖4 IID 設定下的聯邦學習測試精度比較

圖5 展示了non-IID 設定下不同反射單元數量對測試精度的影響。顯然,SDR 和OPT 都可以在較多的反射單元數量下實現相當大的性能提升,這是因為反射單元數量的增加會提高調配智能反射面適配信道的自由度,即通過設計智能反射面的相移產生更窄波束形成,以增加通信鏈路的可靠性,降低基站端的聚合誤差。然而,所提方案與其他方案之間的性能差距仍然存在。

圖5 non-IID 設定下不同反射單元數量對測試精度的影響

如圖6 所示,進一步假設每個RIS 相移只能取有限個離散值,即

圖6 non-IID 設定下不同離散比特對測試精度的影響

圖7 non-IID 設定下不完美CSI 對測試精度的影響

6 在車聯網中的應用探討

在特大城市如北京、上海,車輛或其他移動終端容易受高層建筑遮擋而造成信號傳播盲區,將RIS 安裝在視野更開闊的建筑物表面,可以中繼移動終端的信號給基站,利用智能反射面的信道可重構性來提高接收信號功率,并利用空中計算實現模型的快速聚合增強無線資源的收益,如圖8 所示。

圖8 智能反射面賦能的聯邦邊緣學習在車聯網中的應用

7 結束語

針對non-IID 設定下的聯邦邊緣學習框架,本文提出一種智能反射面賦能的空中計算聚合模型。通過量化由non-IID 數據分布和無線信道衰落共同引起的模型聚合誤差,首先推導出non-IID 環境下空中聯邦邊緣學習的訓練損失上界,并以此為基礎,建立通信資源約束下以收發端波束成形和RIS 相移為變量的損失上界最小化問題;同時,引入一種低復雜度的凸逼近策略,高效求解最優通算參數,以減弱甚至消除通信誤差對聯邦學習收斂性能的影響。最后,通過仿真實驗驗證了所提方案的有效性。

未來,將考慮更多通用的場景,例如非凸損失函數下的“通信-學習”聯合建模和折中優化,以及引入模型量化技術進一步降低傳輸開銷等,從而為深層次理解聯邦邊緣學習融合無線通信新范式提供新的理論支撐。另外,還可探討將RIS 用于V2V(vehicle to vehicle)場景,有助于消除移動終端之間信號干擾,增強每個移動終端的接收信號質量。

附錄1 RIS 賦能的空中聯邦邊緣學習系統收斂性證明

首先,定義時間軸刻度為SGD 更新輪次,如式(33)所示

接下來,引入在定理1 的證明過程中一些必要的引理,其具體證明過程參考文獻[20]。其中,引理1 是根據損失函數的光滑性和凸性推導出來的;引理2 源于SGD 方差有界性,而引理3 由損失函數的有界梯度導出。

當t+1∈IE時,邊緣終端通過空中計算網絡將其模型傳輸到BS 端并解碼,則有

猜你喜歡
反射面聯邦信道
一種副反射面為橢球面的天線反射體測量技術
一“炮”而紅 音聯邦SVSound 2000 Pro品鑒會完滿舉行
雙反射面天線裝配過程中同軸度誤差分析
基于應變的變形副反射面位姿形貌快速重構方法?
303A深圳市音聯邦電氣有限公司
基于導頻的OFDM信道估計技術
一種改進的基于DFT-MMSE的信道估計方法
基于MED信道選擇和虛擬嵌入塊的YASS改進算法
一種基于GPU的數字信道化處理方法
20年后捷克與斯洛伐克各界對聯邦解體的反思
91香蕉高清国产线观看免费-97夜夜澡人人爽人人喊a-99久久久无码国产精品9-国产亚洲日韩欧美综合