前言

本文基于Python仿真的電能質量擾動信號，進行快速傅里葉變換（FFT）的介紹與數據預處理，最后通過Python實現基于FFT的CNN-BiLSTM-CrossAttention模型對電能質量擾動信號的分類。

部分擾動信號類型波形圖如下所示：

模型整體結構

模型整體結構如下所示，一維擾動信號經過FFT變換的頻域特征以及信號本身的時域特征分別經過CNN卷積池化操作，提取全局特征，然后再經過BiLSTM提取時序特征，使用交叉注意力機制融合時域和頻域的特征，通過計算注意力權重，使得模型更關注重要的特征再進行特征增強融合，最后經過全連接層和softmax輸出分類結果。

時域和頻域特征提取：

• 對時域信號應用FFT，將信號轉換到頻域。
• 利用CNN對頻域特征進行學習和提取。CNN的卷積層可以捕捉頻域特征的局部模式。

BiLSTM網絡：

• 將時域信號輸入BiLSTM網絡。BiLSTM（雙向長短時記憶網絡）可以有效地捕捉時域信號的長期依賴關系。

交叉注意力機制：

• 使用交叉注意力機制融合時域和頻域的特征。這可以通過計算注意力權重，使得模型更關注重要的特征

1 快速傅里葉變換FFT原理介紹

傅里葉變換是一種信號處理和頻譜分析的工具，用于將一個信號從時間域轉換到頻率域。而快速傅里葉變換（FFT）是一種高效實現傅里葉變換的算法，特別適用于離散信號的處理。

第一步，導入部分數據，擾動信號可視化

第二步，擾動信號經過FFT可視化

2 電能質量擾動數據的預處理

2.1 導入數據

在參考IEEE Std1159-2019電能質量檢測標準與相關文獻的基礎上構建了擾動信號的模型，生成包括正常信號在內的10中單一信號和多種復合擾動信號。參考之前的文章，進行擾動信號10分類的預處理：

第一步，按照公式模型生成單一信號

單一擾動信號可視化：

2.2 制作數據集

制作數據集與分類標簽

3 交叉注意力機制

3.1 Cross attention概念

• Transformer架構中混合兩種不同嵌入序列的注意機制
• 兩個序列必須具有相同的維度
• 兩個序列可以是不同的模式形態（如：文本、聲音、圖像）
• 一個序列作為輸入的Q，定義了輸出的序列長度，另一個序列提供輸入的K&V

3.2 Cross-attention算法 

• 擁有兩個序列S1、S2
• 計算S1的K、V
• 計算S2的Q
• 根據K和Q計算注意力矩陣
• 將V應用于注意力矩陣
• 輸出的序列長度與S2一致

在融合過程中，我們將經過FFT變換的頻域特征作為查詢序列，時序特征作為鍵值對序列。通過計算查詢序列與鍵值對序列之間的注意力權重，我們可以對不同特征之間的關聯程度進行建模。

4 基于FFT+CNN-BiLSTM-CrossAttention擾動信號識別模型

4.1 網絡定義模型

注意：輸入故障信號數據形狀為 [64, 1024]， batch_size=64,  ，1024代表擾動信號序列長度。

4.2 設置參數，訓練模型

50個epoch，準確率近100%，用FFT+CNN-BiLSTM-CrossAttention融合網絡模型分類效果顯著，模型能夠充分提取電能質量擾動信號的空間和時序特征和頻域特征，收斂速度快，性能優越，精度高，交叉注意力機制能夠對不同特征之間的關聯程度進行建模，從擾動信號頻域、時域特征中屬于提取出對模型識別重要的特征，效果明顯。

4.3 模型評估

準確率、精確率、召回率、F1 Score

擾動信號十分類混淆矩陣：

點擊下載：原文完整數據、Python代碼???https://mbd.pub/o/bread/ZpWXmpts??

本文轉載自 ??建模先鋒??，作者： 小蝸愛建模