快速傅里葉卷積(FFC) 的在故障診斷中的應(yīng)用!
本期推出一種基于快速傅里葉卷積的 FFC-ResNet的網(wǎng)絡(luò)模型,通過把 ResNet 中常規(guī)卷積替換為快速傅里葉卷積,提升了卷積神經(jīng)網(wǎng)絡(luò)(CNN)的性能,并應(yīng)用在軸承故障診斷任務(wù)上,取得了不錯的效果!
通過巧妙融合快速傅里葉變換(FFT)的卓越性能,快速傅里葉卷積(FFC)成為了執(zhí)行卷積操作的高效利器,尤其是在渴求全局性上下文理解與跨尺度特征無縫融合的場景下展現(xiàn)出了非凡優(yōu)勢。這種創(chuàng)新性的頻域處理手段,不僅顯著提升了特征提取的精準(zhǔn)度與效率,還極大地加速了計算流程,為實(shí)際應(yīng)用中的模型性能飛躍奠定了堅實(shí)基礎(chǔ),同時保持了較低的計算資源消耗。
前言
本文基于凱斯西儲大學(xué)(CWRU)軸承數(shù)據(jù),先進(jìn)行數(shù)據(jù)預(yù)處理,然后通過 Python 實(shí)現(xiàn)基 于FFC-ResNet 網(wǎng)絡(luò)模型對故障數(shù)據(jù)的分類。
1.軸承故障數(shù)據(jù)的預(yù)處理
1.1 導(dǎo)入數(shù)據(jù)
參考之前的文章,進(jìn)行故障10分類的預(yù)處理,凱斯西儲大學(xué)軸承數(shù)據(jù)10分類數(shù)據(jù)集:
train_set、val_set、test_set 均為按照7:2:1劃分訓(xùn)練集、驗(yàn)證集、測試集,最后保存數(shù)據(jù)
1.2 故障數(shù)據(jù)預(yù)處理與數(shù)據(jù)集制作
2.快速傅里葉卷積(FFC)介紹
2.1 模型簡介
FFC 模塊的核心是將傳統(tǒng)的空間域卷積轉(zhuǎn)換到頻率域進(jìn)行,利用快速傅里葉變換(FFT)來實(shí)現(xiàn)。這一轉(zhuǎn)變帶來了計算效率的顯著提高和模型準(zhǔn)確性的提升。此外,模塊還引入了Local Fourier Unit(LFU),這是一種在頻域中執(zhí)行的可學(xué)習(xí)濾波器,能夠進(jìn)一步優(yōu)化特征表示,從而增強(qiáng)模型的表現(xiàn)。
2.2 創(chuàng)新點(diǎn)
提出了一個新的卷積模塊,fast Fourier convolution(FFC) ,不僅有非局部的感受野,而且在卷積內(nèi)部就做了跨尺度信息的融合。
(1)FFC構(gòu)架:
FFC由兩條相互連接的路徑組成:一條在部分輸入特征信道上進(jìn)行普通卷積的空間(局部)路徑,以及一條在頻譜域中工作的頻譜(全局)路徑。每條路徑都可以捕獲具有不同感受野的互補(bǔ)信息。
(2)Fourier Unit(FU)
性質(zhì)1:對實(shí)信號應(yīng)用二維FFT時,會產(chǎn)生完全對稱的厄米特矩陣,對厄米特矩陣應(yīng)用逆FFT時矩陣只有實(shí)元素。當(dāng)用實(shí)張量進(jìn)行FFT變換時,其結(jié)果是共軛對稱的。因此,在不損失有用信息的情況下,我們可以只保留一半的結(jié)果,并通過使用共軛對稱簡單地恢復(fù)另一半。
性質(zhì)2:傅里葉理論中的頻譜卷積定理:更新頻譜域中的單個值會影響空間域中全局的特征。
對于頻譜變換器來說,大的核尺寸是不必要的,因?yàn)樵陬l譜域中的任何操作都具有全局感受野。
(3)Local Fourier Unit(LFU)
目的是捕捉半全局信息,做法是將input feature map分為4個patch,分別使用FU即可。與FU相比,LFU需要更高的計算復(fù)雜度,這主要是由于增加了信道。LFU的效果因具體任務(wù)而異!
2.3 復(fù)雜性分析
FFC與普通卷積相比,計算成本相當(dāng),但當(dāng)普通卷積使用大核卷積時,F(xiàn)FC體現(xiàn)了優(yōu)越性,在頻譜轉(zhuǎn)換器時仍然使用1×1的核來學(xué)習(xí)全局感受野。利用傅里葉光譜理論在深度模型中實(shí)現(xiàn)非局部感受野。所提出的算子也經(jīng)過設(shè)計以實(shí)現(xiàn)跨尺度融合。
3.基于 FFC-ResNet 的故障診斷模型
3.1 定義 FFC-ResNet 模型
3.2 設(shè)置參數(shù),訓(xùn)練模型
3.3 模型評估
準(zhǔn)確率、精確率、召回率、F1 Score
故障十分類混淆矩陣:
其他可視化圖:
(1)分類標(biāo)簽可視化
(2)原始數(shù)據(jù) t-SNE特征可視化
(3)模型訓(xùn)練后的 t-SNE特征可視化:
模型分類效果顯著,50個epoch,準(zhǔn)確率96%,F(xiàn)FC-ResNet可以有效地挖掘信號中的多尺度特征,收斂速度快,性能優(yōu)越,精度高,能夠從故障信號頻域、時域特征中屬于提取出對模型識別重要的特征,效果明顯。
本文轉(zhuǎn)載自??建模先鋒???,作者:小蝸愛建模
