基于神經網絡的超聲波焊接功率預測方法*

周俊雄，周明歐，范 鵬，盧其輝

（1.廣東省智能化鋰電池制造裝備企業重點實驗室，廣東惠州 516000；2.廣東利元亨智能裝備股份有限公司，廣東惠州 516000）

0 引言

超聲波焊接系統由超聲波發生器和負載共同組成，超聲波發生器的任務是不斷提供穩定的超聲能量輸出[1]。在超聲焊接的過程中，由于負載具有非線性時變特征，使得焊接過程很難控制，從而影響到焊接質量的穩定性。為解決此問題，必須對變化的輸出功率進行準確預測，并采取可靠的控制策略才能實現穩定控制，提高焊接質量。

國內外研究者對超聲波發生器的穩定性做了大量研究，主要集中在頻率跟蹤[2-5]、優化控制策略、控制方法等方面[6]。文獻[7-8]研究了基于FPGA的超聲波發生器數字化控制以及改進頻率跟蹤方法，實現了負載突變后迅速準確的鎖相功能。文獻[9-10]基于STM32 設計并優化硬件以及頻率跟蹤算法，達到了良好的控制效果和動態響應能力。文獻[11]提出基于模糊PI 的頻率跟蹤方法，解決負載狀態切換頻率跟蹤不準確的問題。神經網絡技術作為機器學習的方法，可以自動構造特征進行學習以預測目標，該方法能夠保證較高的精度和泛化能力，優化結構也能夠提高預測精度[12-14]。而對于神經網絡在超聲波發生器中的應用研究，在識別焊件品質中較為常見。文獻[15]使用了BP 神經網絡預測匹配電感量的輸出值，實現超聲波鑄造電源的動態匹配。文獻[16-17]利用神經網絡技術，實現了焊縫位置的空間定位，保障了焊接質量和效率。文獻[18]設計一種基于BP 神經網絡的電力負荷模型，改進超聲波鑄造電源系統，提高了工作效率。文獻[19]基于神經網絡設計了分類器，監控焊件質量。綜上所述，目前國內外對超聲波發生器輸出的有功功率進行預測的研究相對較少，本文針對這一現狀對超聲波發生器輸出有功功率的預測進行研究，以期作為超聲波焊接控制工作的參考。

影響超聲波焊接質量的主要因素是超聲波發生器輸出的有功功率。影響超聲波發生器輸出有功功率的主要因素有焊頭的摩擦因數μ、焊接壓力F、焊接振幅A、超聲波頻率f以及焊印面積S等參數。這使得超聲波焊接控制系統呈現復雜的非線性，目前傳統的控制算法缺乏有效的多目標非線性數學分析工具。神經網絡算法因其可解決多變量和多目標之間的映射關系而被廣泛應用于輸入輸出關系復雜的非線性映射場景，它不依賴于系統模型。針對神經網絡控制算法，研究人員提出了多種控制結構[20-21]。本文針對超聲波焊接過程的工藝特點，在Tensorflow框架下設計了基于全連接層（Multi-Layer Perception，MLP）和基于卷積神經網絡（Convolutional Neural Networks，CNN）原理的2 種預測模型，并采集各種超聲焊接場景下的數據進行訓練，特征量為影響超聲波發生器輸出功率的各參數。訓練結果表明，神經網絡預測模型具有較強的容錯性和魯棒性，可以準確預測出控制目標。

1 神經網絡算法優化

通過簡單的更新規則來說明神經網絡的訓練過程：

定義學習參數lr，迭代輸入數據集，神經網絡前向傳播計算參數，計算損失，再通過反向傳播算法不斷向參數回傳梯度G，更新網絡參數的權重W[l]直至損失達到目標。

優化算法簡單地說就是最小化損失函數，即縮小預測值和真實值之間的差距，神經網絡常用梯度法學習訓練，傳統的梯度下降法損失下降慢，易陷入局部最優值。改進的隨機梯度下降法以及mini-batch 梯度下降雖然在一定程度上改善了傳統算法的缺陷，但仍然存在損失函數波動大、運行慢等問題，此時就需使用動量法和自適應梯度算法。

本文在TensorFlow 這一經典的人工智能計算框架下搭建神經網絡模型，調用該框架中的Adam 優化器優化神經網絡算法。Adam優化算法同時使用動量和自適應梯度思想，一方面通過動量積累梯度，另一方面通過自適應梯度思想使得損失波動幅度更小，其更新過程如下：

2 超聲焊接功率預測模型的建立

預測下一時刻的功率Pn+1值，與當前功率Pn作差，以差值為判斷依據，通過控制器調參，維持焊接功率穩定。其中，從焊接過程中摩擦力做功的角度考慮，超聲波焊接所需要的有功功率可按照式（3）進行計算。

式中：S為焊印面積；W為摩擦力在時間t內所做的功；F為摩擦力；s為在摩擦力的方向上發生的位移；μ為焊頭與被焊物之間的摩擦因數；FN為正壓力；A為振幅最大值；f為輸出頻率。

電源穩定輸出控制框圖如圖1 所示。為了預測下一時刻的功率Pn+1，在Tensorflow 框 架下，分別基于MLP 以及CNN 原理設計了2 種網絡結構，如圖2和圖3所示。

圖1 基于神經網絡預測模型的電源穩定輸出控制框圖

圖2 MLP網絡預測模型

圖3 一維卷積層結構

由式（3）可知，由于焊印面積S基本保持不變，壓力FN、振幅A與占空比、電流有關。因此，以當前時刻的頻率fn、占空比αn、電流I、功率Pn、下一時刻的頻率fn+1以及占空比αn+1共6 個變量作為輸入向量，輸出向量為下一時刻功率Pn+1。經過多次調整網絡結構訓練實驗，發現MLP 神經網絡的隱藏層層數設置為2，每一層的神經元個數設置為32時預測效果較好，損失相對較低。

CNN 大體結構與MLP 類似，不同點在于每一層不僅僅是單純的神經元，而是改為卷積層和池化層。通過設定大小的卷積核提取局部特征映射到下一層，池化層用來降維以減輕網絡負擔。由于本文的數據集均為數值數據，使用一維卷積層和池化層搭建實驗模型，一維卷積層結構如圖3所示。

多個卷積層堆積構成卷積神經網絡，每層的卷積核個數視情況設置，本文將卷積核大小設置為6，最后經過一層全連接層恢復參數維度，輸出下一時刻功率。

3 模型預測仿真驗證

3.1 數據集生成

數據集的生成以及處理方式能夠非常直觀地影響神經網絡的精度，在壓力一定的條件下，改變占空比大小測得的焊接參數作為樣本生成數據集。部分樣本數據如表1 所示，將上文所提到的6 個變量作為訓練集樣本數據，對應下一時刻的功率真實值作為標簽，同時對輸入樣本數據作標準化處理：

表1 部分輸入樣本數據

式中：為輸入樣本Xi的標準化值，處理后能夠提高網絡訓練效率和精度；μ為樣本均值；σ為樣本標準差。

3.2 訓練誤差

本文分別基于MLP、CNN 神經網絡訓練，神經網絡的隱藏層采用ReLU 函數，CNN 網絡的隱藏層采用Tanh函數，輸出層均未采用激活函數。

BN（BatchNormalization）層，即批量歸一化，也會影響訓練損失以及網絡的泛化能力。雖然輸入前已人為將數據標準化，但訓練時每一層輸入數據的分布是不斷更新的，因此可以添加BN 層達到每一層網絡輸入數據都歸一化的效果，同時在一定程度上能夠防止訓練集損失小，若驗證測試集損失大，以及驗證測試集與訓練集損失相差過大，即為過擬合現象。網絡結構如表2～3所示。

表2 MLP網絡模型參數

對應的訓練以及驗證損失曲線如圖4所示。通過表1比較模型MLP1、2 的損失值變化曲線可知，增加批量樣本數，驗證集損失下降，模型泛化能力增強，與訓練集損失更接近，因此MLP 后續實驗的批量樣本數設置為64；比較模型MLP2和3的損失值變化曲線可知批量樣本數相同時，增加某層神經元個數，增加網絡復雜度有利于損失值下降，圖4中模型MLP3訓練和驗證損失均相對下降，且驗證集損失波動更??；比較模型MLP3、4 的損失值變化曲線可知，添加BN 層后，模型MLP4 訓練集損失反而增大，因為增加懲罰手段導致了訓練難度增大。

圖4 MLP各模型訓練驗證損失曲線

表3 中C（8，6）表示當前卷積層有8 個卷積核，卷積核大小為6，m（3）表示池化層，卷積核大小為3。對應的訓練以及驗證損失曲線如圖5 所示。由圖可知，CNN 網絡訓練集均與驗證集損失較接近，擬合效果較好，說明整體泛化能力較強。模型2 的網絡去掉一層卷積層，降低復雜度，此時損失值相對下降，并且驗證集損失振蕩比模型1 平緩，說明模型2 的復雜度已經足夠，模型1 過于復雜，因此對于CNN 來說，采用模型2 復雜度已足夠，節省算力和時間成本，預測結果也會更好。

表3 CNN網絡模型參數

圖5 CNN各模型訓練驗證損失曲線

綜合來看，CNN 網絡的驗證集損失均與訓練集損失接近，CNN 網絡整體的擬合程度比MLP 強，具有更強的泛化能力。

3.3 焊接功率預測試驗

為驗證模型的有效性以及魯棒性，隨機抽取未訓練的30組數據，對焊接機下一時刻的功率進行預測，將預測值與真實值作比較，各模型表現如圖6 所示。通過觀察兩條曲線的重合度來判斷預測效果，從預測結果來看，MLP 模型2 比模型1 表現好，模型3 比模型2 表現好，模型4 效果最優，沒有特別突出的異常值，預測功率值的整體趨勢與真實功率值接近。這與前文對損失函數的描述一致，但模型4 驗證集損失明顯小于訓練集，此時模型存在過度規范化的問題，不予采納。因此，MLP 網絡結構設置成模型3 的參數結構時是比較可靠的，泛化能力相對較強，具有一定魯棒性。

圖6 MLP各模型實際功率與預測功率曲線

圖7 所示為基于CNN 網絡搭建的功率預測模型。由圖可知，模型2表現更好，真實值和預測值重合度更高，預測值基本與實際功率值一致，無突出的異常值。

圖7 CNN各模型實際功率與預測功率曲線

對比圖6和圖7可以看出，CNN網絡預測效果整體比MLP網絡更優，功率的預測值走勢基本與真實值相同，這也與前文損失函數的結果相對應。使用懲罰手段，訓練更少的參數，依然能達到更好的效果，說明在該場景下，卷積神經網絡的泛化能力更強，可靠度更高，更具魯棒性。

4 結束語

在超聲焊接的過程中，由于負載具有非線性時變特征，使得超聲波發生器的輸出功率受到影響，從而導致焊接質量問題。對此，本文分別基于全連接層神經網絡和卷積神經網絡設計了超聲波發生器輸出有功功率的預測模型，并采用超聲金屬焊接工程中的實際數據進行了訓練驗證，主要得出以下結論。

（1）經過多次更改結構并調整參數訓練后，文中所設計的2 個神經網絡模型的損失值均能下降到10-2以下。通過未訓練的實測參數進行功率預測試驗，預測功率與真實值功率曲線重合度證明了這2 種方法都是有效的，并且都具有良好的預測精度和魯棒性，能夠有效解決超聲波焊接這種場景下多變量輸入輸出映射關系的難題，為超聲波焊接的穩定性控制提供了新思路。

（2）對比全連接層神經網絡和卷積神經網絡模型的訓練結果，發現后者的訓練驗證損失更小，預測效果更好。說明卷積神經網絡模型的泛化能力更強，更具魯棒性，可優先考慮將這種算法應用于超聲波金屬焊接中進行功率預測。