周勤,王遠軍
上海理工大學 健康科學與工程學院(上海,200093)
醫學圖像配準是在一個或多個浮動圖像(moving image)上應用各種幾何變換的優化過程,使浮動圖像和參考圖像(fixed image)在相同的結構上達到空間位置一致。為了方便描述,我們將兩個圖像序列的配準稱為成對(pair-wise)配準,一組圖像序列間的配準稱為群組(group-wise)配準[1]。對于一些分析研究來說,配準是一個至關重要的過程,包括旨在了解表型群體趨勢的研究、測量縱向變化(例如監測腫瘤組織的大小)、執行引導手術、將個體解剖與標準空間系統(即圖譜)相關聯以及其他應用[2]。對自不同類型設備,例如磁共振成像(magnetic resonance imaging, MRI)和計算機斷層掃描(computer tomography, CT)正電子發射斷層掃描(positron emission tomography,PET)以及等組合掃描的圖像進行配準對醫療疾病診斷治療十分重要[3]。
近年來,研究人員對同時配準兩個或兩個以上的圖像越來越感興趣[4-7]。在之前工作中[8],我們使用變分推斷算法來實現圖像群組配準,盡管這種方法可以實現圖像集的良好配準,但是容易導致構建的參考圖像不平滑并且收斂速度慢的問題。Che等[9-10]提出一個由PCA構建的模板圖像引導的無偏差的深度群組配準框架,適用于多光譜圖像。類似于文獻[9-10]的做法,Roland等[11]使用了魯棒的主成分分析(principal component analysis, PCA)的方法??梢?,PCA算法應用在群組配準領域具有很大的潛力。
針對文獻[8]存在容易導致構建的參考圖像不平滑并且網絡收斂速度慢的問題,提出使用PCA算法來計算構建參考圖像時每幅圖像的權值。然后,利用改進后的權值計算方法重新構建參考圖像。最后,實驗結果表明提出的算法在配準精度上雖然不如文獻[8]方法的精度高,但在模板構建的收斂速度以及所構建的模板平滑性上表現更好。主要貢獻如下:
(1)為了使構建的參考圖像更加平滑和網絡更快的收斂,提出一種基于PCA的無監督群組配準算法,可以使構建的參考圖像快速收斂到圖像集拓撲中心,減少網絡訓練時間。
(2)提出了一種基于U-net的編解碼網絡,通過跳躍連接有效結合深層和淺層特征,快速優化網絡參數。
給定一組移動圖像,目標是將N幅移動圖像配準到模板圖像上,使所有配準后的圖像都與模板圖像相似。方法流程如圖1所示,其中輸入圖像、形變場、配準后的圖像和模板圖像均為三維體數據,圖中為其中心切片展示,具體的有:圖像的輸入有N幅圖像和PCA生成的模板圖像。神經網絡的輸出是速度場,經過積分和采樣生成N個形變場;隨后,空間變換網絡使用雙線性插值來構建密集的空間變換,用于通過優化圖像相似性度量來配準3D圖像。這里形變場的估計、損失函數和神經網絡模型構建的細節,請參考文獻[8]最大的不同,僅在模板圖像的構建上。
圖1 基于PCA的無監督群組配準算法流程圖Fig.1 Flow chart of unsupervised group-wise registration algorithm based on PCA
在我們的方法中,每個圖像的像素坐標被采樣作為單獨的觀察點,不同的圖像被作為對應于N維空間的不同變量。使用PCA將維度降低到一維子空間。與最大特征值相關聯的特征向量V可以用作構造模板圖像t的權重w。
我們使用 LONI LPBA40[14](以下簡稱 LPBA40)和MICCAI2012大挑戰中的數據[15](以下簡稱MICCAI)這兩個不同的數據集去驗證提出的無監督配準算法。數據集分別覆蓋了從青少年腦MRI圖像到老年人腦MRI圖像。兩個數據集的所有圖像都是MRI的TI加權圖像,對所有的圖像均進行偏移場矯正,顱骨剝離,圖像重采樣、歸一化和圖像預配準等預處理步驟進行處理,具體描述見表1。兩個數據均具有對應的標簽,用于評估配準算法的精度,如圖2所示。
表1 LPBA40和MICCAI數據集描述Tab.1 LPBA40 and MICCAI dataset descriptions
圖2 兩個數據集體數據和對應標簽的水平位中心切片結果展示Fig.2 Two data collective data and corresponding label horizontal bit center slice results are displayed
為了更好地評估本文提出的算法,與文獻[8]算法在 Dice系數 (Dice coefficient)[17]、變形場的雅克比行列式[18]、EM1[19]、EM2[19]和時間五個度量標準來評估配準準確率、變形場的折疊程度、模板與總體之間的偏差、模板的銳度差和配準的快慢。
訓練時,模板圖像通過對原始數據使用PCA算法進行初始化和更新,將移動圖像和參考圖像在通道維度上合并, 然后送到CNN網絡學習預測形變場, STN利用預測的形變場得出扭曲后的圖像,使用Adam算法反向更新網絡參數直至使目標函數最優。測試時, 將參考圖像和測試圖像輸入訓練好的模型, 將預測的形變場作用于測試圖像標簽, 得到形變后的標簽圖, 通過這種方式計算不同標簽的dice、EM1、EM2和變形場的重疊程度。具體的使用pytorch在6-core Intel i7-8700K CPU和6 GB NVIDIA GeFore RTX 2060 GPU機器上實現模型的訓練與測試。實驗環境為DUDA10.0并行計算架構, 操作系統為Win10, 軟件為pyCharm。算法在pytorch框架中實現, 使用學習率為4e-4的Adam優化器優化訓練,迭代次數為15 000次。超參數λa和λb分別設置為0.9和0.09。由于實驗環境內存大小的限制, 僅將批處理大小設為1。通過設計以下兩個不同的實驗,對提出算法的精度和魯棒性進行綜合性評估。
(1) LPBA40數據集配準實驗,并同文獻[8]比較訓練期間模板的變化。
(2)為進一步驗證算法的魯棒性, 將LPBA40數據集訓練好的網絡模型直接應用于MICCAI數據集。
為了分析提出算法的性能,使用LPBA40訓練網絡。首先,平均圖像和PCA構建的模板被單獨用作模板,用于比較訓練期間清晰度的變化,如圖3所示。其次,針對單個圖像、平均圖像和該組中的PCA用作模板圖像,研究圖像算法的性能,如表2和圖4所示。最后,將基于LPBA40數據集訓練好的模型直接應用到MICCAI數據集上進行配準,驗證構建模型的遷移能力,配準結果如圖5所示。
圖3 訓練期間模板變化Fig.3 Template changes during training
圖3給出群組配準實驗訓練期間模板圖像變化情況。圖3從三個方位展示了訓練期間平均法和PCA構建的模板圖像的變化情況。從圖3可以看出,相比之下,本文算法構建的模板更清晰,更靠近群組中心。在6 000 epoch時,PCA模板圖像的清晰度已經非常高,超過平均模板圖像的清晰度。顯然,將PCA模板圖像與深度網絡相結合的技術比使用平均模板圖像收斂得更快。收斂比較快的原因是基于PCA的模板圖像考慮一組圖像的主成分信息,使模板圖像更接近群組中心。
表2給出不同算法在測試集上的配準結果。從表2中可以看出, 在大多指標上性能表現優異(粗體表示最優結果)。同本文算法相比,文獻[8]方法具有更高的Dice得分、GPU運行時間少, 產生更好的微分同胚形變場(具有更低的非負雅可比位置數對)和生成的平均模板更清晰( 相對較小)。綜合來看, 本算法表現較差。圖4、圖5為部分結果展示,其中圖5為將基于LPAB40數據集訓練的模型應用MICCAI數據集進行配準的結果展示。圖4、圖5第一列表示移動圖像,第二列為模板圖像,第三列為配準后的圖像,第一行表示腦橫截面圖,第二行和第三行為腦3D重建和可視化結果。從圖4和圖5可以看出,配準后的圖像和模板圖像較為接近,從箭頭來看,配準結果與模板圖像很相似。在3D重建效果圖中,虛線標注了大腦皮層結構中配準效果比較好的區域。從圖4、圖5中可以看出,在中央后回及中央腦溝皮層結構中得到較好的配準結果。
圖5 MICCAI配準結果圖Fig.5 MICCAI registration result
表2 不同算法在LPBA40測試集上多個度量標準的群組配準結果Tab.2 Group registration results of multiple metrics with different algorithms on LPBA40 test set
圖4 LPBA40配準結果Fig.4 LPBA40 registration result
基于移動圖像和模板圖像之間的結構相似性,提出在構建模板階段可以更多地關注每幅圖像對模板構建的影響,而深度學習中PCA算法可以很好地適用于模板構建。同時,提出的算法結合了文獻[8]的神經網絡框架和損失函數,從而更好地構建模板。實驗結果表明,雖然所提算法的配準精度不如文獻[8],但模板的收斂速度較快且模型也具有很好的遷移能力。后續會考慮使用更為復雜的網絡或者嘗試更改網絡的超參數來提高本算法的性能。