中國儲能網(wǎng)訊：
本文亮點：（1） 使用增量容量分析法繪制IC曲線，提出 IC 曲線的面積作為特征輸入，提高了估計 SOH 的準確性。（2） 提出一種CNN與 Transformer 結(jié)合的神經(jīng)網(wǎng)絡(luò)，大大提高了神經(jīng)網(wǎng)絡(luò)模型在處理序列問題時對局部特征的提取能力。（3） 將特征多項式作為輸入，提升了SOH與特征之間的非線性映射關(guān)系，大大提高了估算 SOH 的魯棒性。
摘 要 為了提高鋰離子電池健康狀態(tài)(state of health，SOH)估計的精確度，本研究結(jié)合卷積神經(jīng)網(wǎng)絡(luò)(convolutional neural networks，CNN)強大的局部特征提取能力和Transformer的序列處理能力，提出了基于多項式特征擴展的CNN-Transformer融合模型。該方法提取了與電池容量高度相關(guān)的增量容量(incremental capacity，IC)曲線峰值、IC曲線對應電壓、面積及充電時間作為健康因子，然后將其進行多項式擴展，增加融合模型對輸入特征的非線性處理能力。引入主成分分析法(principal component analysis，PCA)對特征空間進行降維，有利于捕獲數(shù)據(jù)有效信息，減少模型訓練時間。采用美國國家宇航局(National Aeronautics and Space Administration，NASA)數(shù)據(jù)集和馬里蘭大學數(shù)據(jù)集，通過加入多項式特征前后的CNN-Transformer模型對比、加入多項式特征的CNN-Transformer模型和單一模型算法對比，驗證了加入多項式特征的CNN-Transformer融合算法的有效性和精確度，結(jié)果表明提出模型的SOH估計精度相較于未加入多項式特征的CNN-Transformer模型，對于B0005、B0006、B0007、B0018數(shù)據(jù)集分別提高了38.71%、50.28%、4.71%、17.58%。
關(guān)鍵詞 鋰離子電池；電池健康狀態(tài)預測；主成分分析法；CNN-Transformer；增量容量分析；多項式特征
鋰離子電池具有循環(huán)壽命長、能量密度高等優(yōu)點，近年來鋰離子電池廣泛用于汽車動力電池等領(lǐng)域，促進了電動汽車產(chǎn)業(yè)的快速發(fā)展。然而，在使用過程中鋰離子電池會出現(xiàn)容量衰減現(xiàn)象，導致電池性能的退化，還會影響電池荷電狀態(tài)(state of charge，SOC)估計的準確度。因此，鋰離子電池健康狀態(tài)(state of health，SOH)的準確有效估計至關(guān)重要。
目前SOH估計方法主要有模型驅(qū)動法和數(shù)據(jù)驅(qū)動法。其中模型驅(qū)動法分為基于等效電路模型和電化學模型的方法。基于等效電路模型的SOH估計方法需要建立等效電路，一般使用二階等效電路模型，利用卡爾曼濾波器或者粒子濾波器估計SOH?；陔娀瘜W模型的SOH估計方法通?；陔姵氐幕瘜W原理、物理參數(shù)以及實驗數(shù)據(jù)，通過數(shù)學表達式描述電池的充放電過程、內(nèi)阻變化、容量衰減等關(guān)鍵特征進而進行容量估計。數(shù)據(jù)驅(qū)動法因不需要建立電池內(nèi)部機理模型而備受關(guān)注，通常是通過支持向量機(support vector machine，SVM)、長短期記憶遞歸神經(jīng)網(wǎng)絡(luò)(long short-term memory，LSTM)、門控遞歸神經(jīng)網(wǎng)絡(luò)(gated recurrent neural networks，GRU)、極限學習機等神經(jīng)網(wǎng)絡(luò)模型來建立輸入特征與SOH之間的映射關(guān)系。Sun等結(jié)合不同的特征提取方法，提取電壓脈沖響應曲線的有效特征和代表性特征，然后，引入SVM估計SOH。Xiao等提出了一種基于等電壓間隔下不同放電時間的健康因素，并使用遺傳算法優(yōu)化的反向傳播神經(jīng)網(wǎng)絡(luò)來快速準確地估計電池容量。隨著神經(jīng)網(wǎng)絡(luò)模型的發(fā)展越來越迅速，研究人員也在嘗試使用不同的網(wǎng)絡(luò)結(jié)構(gòu)。Wen等提出一種新的LSTM方法，稱為auto-LSTM的SOH估計方法，該方法可以自動調(diào)整特征選擇、LSTM結(jié)構(gòu)及訓練算法中的超參數(shù)。Jia等提出一種雙向門控循環(huán)單元(bi-directional gated recirculating unit，BiGRU)和Transformer與注意力機制相結(jié)合的混合預測模型，該模型能夠有效解決長時間序列預測的挑戰(zhàn)。上述研究人員在預測電池壽命或電池健康度領(lǐng)域有長足的進步，但是還缺乏關(guān)聯(lián)度更高的特征進行訓練和缺乏更加適合預測電池的網(wǎng)絡(luò)結(jié)構(gòu)。
特征提取是建立數(shù)據(jù)驅(qū)動模型重要的組成部分，常用的特征為溫度、電壓、電流，其中研究最廣泛的特征提取方法是增量容量(incremental capacity，IC)分析法。利用IC曲線分析恒流充電階段電池退化機理來挖掘更多能表征電池健康度的特征，它可以將內(nèi)部電化學反應平衡引起的電壓平臺轉(zhuǎn)化為IC曲線上各種特征，并且IC峰值的出現(xiàn)與鋰離子插層/脫嵌過程中活性材料的相變現(xiàn)象密切相關(guān)。Gismero等和Wang等研究顯示，在電池的整個生命周期中，IC峰值的特征(例如高度和位置)存在明顯且有規(guī)律的變化，使得利用IC特性進行SOH估計應用更加廣泛。Chen等利用IC曲線提出了一種基于粒子群優(yōu)化算法(particle swarm optimization，PSO)和極限學習機(extreme learning machine，ELM)的鋰離子電池健康狀態(tài)估計模型。Sun等提出Bi-LSTM網(wǎng)絡(luò)模型，用IC曲線的峰值作為輸入來預測SOH。She等用增量容量分析實現(xiàn)從實驗室測試到實際應用的過渡。Tian等實現(xiàn)了將鋰離子電池充電過程的溫差曲線與IC曲線相結(jié)合，利用支持向量回歸與SOH建立關(guān)系。Park等提出了采用ICA方法分析鋰離子電池在室溫和高溫條件下的不同老化機理。此外，通過皮爾遜相關(guān)性分析，來分析電池容量與ICA峰值的相關(guān)性，以使用線性回歸模型估計溫度魯棒性健康狀態(tài)(SOH)。上述基于IC曲線的數(shù)據(jù)驅(qū)動SOH估計算法雖然取得了不錯的估計效果，但仍然存在一些問題：采用平滑濾波的方法會去掉原始數(shù)據(jù)的特征信息，沒有一套通用的濾波方法適合不同電池數(shù)據(jù)、不同SOH的IC曲線。在特征提取中，傳統(tǒng)的數(shù)據(jù)驅(qū)動模型缺乏處理SOH與強關(guān)聯(lián)特征之間非線性關(guān)系的能力。傳統(tǒng)的數(shù)據(jù)驅(qū)動模型大都只關(guān)注SOH與特征之間的關(guān)系，忽略了特征與特征之間的關(guān)聯(lián)。
本工作采用了基于多項式特征擴展的CNN-Transformer模型用于SOH估計，解決了上述問題，主要貢獻如下：
（1）使用增量容量分析法繪制IC曲線，將IC曲線的面積作為特征輸入，提高了估計SOH的準確性。
（2）提出一種CNN與Transformer結(jié)合的神經(jīng)網(wǎng)絡(luò)，大大提高了神經(jīng)網(wǎng)絡(luò)模型在處理序列問題時對局部特征的提取能力。
（3）將特征多項式作為輸入，提升了SOH與特征之間的非線性映射關(guān)系，大幅提高了估算SOH的魯棒性。
1 基本原理
1.1 卷積神經(jīng)網(wǎng)絡(luò)
其結(jié)構(gòu)圖如圖1所示。
圖1 卷積神經(jīng)網(wǎng)絡(luò)
1.2 Transformer
Transformer模型主要由位置編碼、編碼器-解碼器以及殘差連接和層歸一化模塊構(gòu)成。位置編碼在Transformer模型中起著至關(guān)重要的作用。由于Transformer模型主要依賴于自注意力機制來處理輸入序列，它本身并不具備處理序列中元素位置信息的能力，因此，位置編碼被引入，以在輸入序列中引入位置信息。位置編碼通常是一個與輸入序列維度相同的矩陣，它使用了三角函數(shù)的正弦和余弦函數(shù)來編碼位置信息，其數(shù)學模型為：
2 實驗數(shù)據(jù)處理
2.1 數(shù)據(jù)集介紹
本實驗采取的第一個數(shù)據(jù)集是美國國家宇航局測試中心為研究電池老化問題所作的4組電池充放電實驗，編號為B0005、B0006、B0007、B0018。實驗分為3種模式：恒流恒壓充電、恒流放電和阻抗測量模式。在提取鋰離子電池健康度特征時，可以分為充電特征與放電特征。由于鋰離子電池放電過程中具有各種不同的放電工況，因此在放電過程中提取健康度特征十分困難。但是充電過程是相對穩(wěn)定的，因此可以收集到更多有代表性的特征，從而能夠更加準確地估計SOH。鋰離子電池充電階段可分為恒流充電與恒壓充電。恒流充電階段時電池在1.5 A的條件下連續(xù)充電，充電電壓達到4.2 V時轉(zhuǎn)換為恒壓充電，當電流小于C/100時停止充電。第二個數(shù)據(jù)集是來自馬里蘭大學高級生命周期工程中心(CALCE)收集的開源電池壽命數(shù)據(jù)集CS35，該數(shù)據(jù)集對應的電池為LiCoO2石墨電池，電池的額定容量為1.1 Ah。實驗分為3個階段：恒流充電、恒壓充電和恒流放電。恒流充電時充電電流為0.5C，直到電壓達到4.2 V。恒壓充電時電壓保持在4.2 V，直到充電電流降至0.05 A以下。恒流放電時以1C的電流放電直至電壓小于2.7 V。
2.2 增量容量分析法
增量容量分析法是一種分析鋰離子充放電過程中容量與電壓的關(guān)系的方法。在鋰離子電池充電過程中，電壓上升會出現(xiàn)一個平穩(wěn)期，在此期間電壓上升速度緩慢，這是因為鋰離子電池內(nèi)部的化學反應已經(jīng)達到了一個相平衡狀態(tài)。其增量容量對電壓的導數(shù)被稱作IC值，如式(8)所示。
IC曲線被廣泛用于分析電池容量損失。在充電過程中，達到相平衡狀態(tài)的電壓以及存儲容量與電池健康度有很大關(guān)系，尤其是在3.8~4 V之間，IC曲線存在峰值。不同的充電循環(huán)次數(shù)時3.8~4 V的對應IC曲線如圖2所示，可以看出隨著充電次數(shù)增加，其充電IC曲線的峰值在減小，峰值所對應電壓在右移，這些特征均可作為神經(jīng)網(wǎng)絡(luò)的輸入。因此，本論文提出將3.8~4 V的IC曲線的面積作為特征輸入到神經(jīng)網(wǎng)絡(luò)模型中進行訓練。使用IC曲線的面積估計電池健康度具有更好的穩(wěn)定性，可以融合IC曲線多個階段的特征信息。
圖2 不同充電循環(huán)的IC曲線
2.3 皮爾遜相關(guān)性分析
皮爾遜系數(shù)是用來衡量兩個連續(xù)變量之間線性關(guān)系的指標，在多個學科具有廣泛應用。在本論文中，皮爾遜相關(guān)性分析用來判斷特征與標簽的相關(guān)度，進而判斷提取的特征是否可以被當作神經(jīng)網(wǎng)絡(luò)模型的輸入。
其公式(9)如下：
2.4 多項式特征
多項式特征是一種特征工程技術(shù)，主要用于增強模型的能力，以便更好地學習和理解數(shù)據(jù)中的非線性關(guān)系。在神經(jīng)網(wǎng)絡(luò)訓練前，將輸入的特征轉(zhuǎn)換為其圖片次冪時，實際上是在創(chuàng)建這些特征的多項式組合。例如，假設(shè)有一個特征圖片，不僅使用圖片，還使用圖片，圖片…圖片，如式(10)所示。其中，n是預定的最高次冪。這樣做的目的是捕捉特征與輸出之間的非線性關(guān)系。通過明確引入非線性特征組合，可以幫助神經(jīng)網(wǎng)絡(luò)更容易地學習這些關(guān)系，特別是在網(wǎng)絡(luò)較淺或訓練數(shù)據(jù)不足以揭示復雜關(guān)系時。
為準確估計鋰離子電池的健康狀況，本研究采用了多項式特征轉(zhuǎn)換方法來增強模型對電池性能衰退非線性特征的學習能力。電池的健康狀況通常受多種因素的影響，包括充放電循環(huán)次數(shù)、溫度變化以及電池的充放電速率等，這些因素之間存在復雜的非線性關(guān)系。通過將電池操作參數(shù)的原始測量值轉(zhuǎn)換為它們的多項式形式，就能夠構(gòu)造一個更加豐富的特征集，以揭示這些參數(shù)之間的潛在非線性交互作用。該多項式擴展方法的應用顯著提升了深度學習模型對電池性能隨時間衰減方式的細致學習能力，進而增強了電池狀況估計的準確性和可靠性。通過預處理輸入數(shù)據(jù)以包含重要的非線性特征，可以減少網(wǎng)絡(luò)需要學習的復雜性，從而可能減少訓練時間。
2.5 主成分分析
本研究關(guān)注于提高鋰離子電池健康狀況估計的準確性和效率?？紤]到電池性能數(shù)據(jù)在多維特征空間中的復雜性，本文采取了主成分分析(principal component analysis，PCA)的數(shù)據(jù)預處理策略，以優(yōu)化深度學習模型輸入。
為了應對高維特征帶來的挑戰(zhàn)，本文引入了PCA技術(shù)對特征空間進行降維。電池性能數(shù)據(jù)的高維性不僅增加了模型訓練的計算負擔，而且可能導致過擬合，特別是在樣本量有限的情況下。通過 PCA技術(shù)能夠從原始特征中提取出最重要的成分，捕獲了數(shù)據(jù)中的主要變異信息，同時去除了噪聲和冗余信息。在實際應用中，通過選擇數(shù)據(jù)絕大部分變異性的前幾個主成分，顯著降低了特征的維度，從而簡化了模型結(jié)構(gòu)并降低了過擬合的風險。PCA降維處理的步驟如下：
2.6 電池SOH估計框架及模型評價標準
本論文提出了一種基于多項式特征擴展的CNN-Transformer模型進行電池SOH估計，其框架如圖3所示。該模型的工作流程如下：
圖3 系統(tǒng)流程圖
（1）利用增量容量分析法從恒流充電3.8~4 V的數(shù)據(jù)中，獲取IC曲線的5個特征。使用皮爾遜系數(shù)法從這5個特征獲得4個強關(guān)聯(lián)特征，然后利用多項式擴展的方法，將原來的特征擴展為特征、特征的二次方和特征的三次方，作為新的特征。
（2）用歸一化和主成分分析使得原來的12個特征變成5個特征，以獲得多項式擴展特征之后的主成分，減少模型計算量。
（3）CNN：接收5個輸入特征，將其組織成一個2×5的矩陣。然后使用2×2的卷積核對輸入矩陣進行卷積操作，步長為2。這一步驟旨在提取輸入特征的局部相關(guān)性，從而生成卷積特征圖。
（4）Transformer架構(gòu)：將經(jīng)過卷積和位置編碼處理后的特征輸入到Transformer模型中。
（5）輸出層：最終通過Transformer的輸出層，生成對輸入序列進行預測的結(jié)果。
本文采用了3種常用的評價指標來全面評估模型的性能，分別是平均絕對誤差(mean absolute error，MAE)、均方根誤差(root mean square error，RMSE)和平均絕對百分比誤差(mean absolute percentage error，MAPE)。這些指標分別從不同的角度反映了模型預測結(jié)果的準確性，其公式分別為：
3 結(jié)果與分析
在本次實驗中，采用美國國家宇航局數(shù)據(jù)集(B0005、B0006、B0007、B0018)和馬里蘭大學數(shù)據(jù)集(CS2_35)，驗證增量基于多項式特征擴展的CNN-Transformer模型在鋰離子電池SOH估計中的精度與魯棒性。本次實驗參數(shù)：迭代次數(shù)為40000次，學習率統(tǒng)一調(diào)整為0.005。將NASA數(shù)據(jù)集70%用于訓練，30%用于測試，在統(tǒng)計評估模型性能指標時只統(tǒng)計后30%數(shù)據(jù)。本文設(shè)計了兩組實驗。第一組驗證進行多項式特征擴展時增加不同高次項對皮爾遜相關(guān)性及模型精度的影響。第二組實驗進行算法對比，對比了3種算法的結(jié)果驗證提出的算法的有效性，并且最后在馬里蘭大學CS2_35數(shù)據(jù)集上驗證算法的泛化能力。
圖4展示了NASA數(shù)據(jù)集恒流充電時間的高次項與容量之間的皮爾遜相關(guān)系數(shù)，結(jié)果表明，在B0005、B0006、B0007三個數(shù)據(jù)集上，三次項與一次項的相關(guān)性絕對值分別提升了0.09、0.06和0.07，而二次項與一次項的相關(guān)性絕對值也分別提高了0.06、0.04和0.05。這說明將特征拓展為三次項時，特征與標簽值相關(guān)系數(shù)提升最多。
圖4 恒流充電時間的高次項與容量之間的皮爾遜相關(guān)系數(shù)：(a) B0005；(b) B0006；(c) B0007；(d) B0018
圖5給出了加入多項式特征前后的CNN-Transformer模型的SOH估計結(jié)果對比。與未加入多項式特征的模型相比，加入多項式特征的模型在預測時浮動更小，顯示出更好的穩(wěn)定性和魯棒性。這一改進不僅有助于提升鋰離子電池健康狀態(tài)的預測精度，還為實際應用中的穩(wěn)定性提供了有力保障。
圖5 加入特征多項式的CNN-Transformer和不加特征多項式的CNN-Transformer對比：(a) B0005；(b) B0006；(c) B0007；(d) B0018
表1給出了這兩種算法在SOH估計中的具體誤差結(jié)果對比。從表中可以看出，加入多項式特征后的CNN-Transformer模型(Poly-CNN-Transformer)在所有數(shù)據(jù)集上均展現(xiàn)出最低的MAE、MAPE和RMSE值，系統(tǒng)的預測精度得到了顯著提升。具體而言，B0005、B0006、B0007、B0018數(shù)據(jù)集的精度分別提高了38.71%、50.28%、4.71%、17.58%。這一改進不僅體現(xiàn)在數(shù)值上，更體現(xiàn)在預測的穩(wěn)定性和魯棒性上。表明模型中CNN用于提取局部特征，而Transformer則處理序列數(shù)據(jù)的全局關(guān)系的結(jié)合顯著提高了模型對輸入序列的理解和處理能力并顯示出其在預測精度上的優(yōu)勢。
表1 加入與不加入特征多項式SOH誤差對比結(jié)果圖
圖6給出了加入多項式特征擴展后的融合模型、單一Transformer模型和LSTM模型的比較，從圖中可以看出，CNN-Transformer模型在所有數(shù)據(jù)集上均表現(xiàn)出更小的預測浮動和更好的穩(wěn)定性。表2展示了不同模型在SOH估計中的誤差結(jié)果。可以看出，加入多項式特征后，CNN-Transformer模型相較于Transformer模型和LSTM模型，平均精度分別提高了32.47%和21.07%。表明模型中CNN用于提取局部特征，以及Transformer用于處理序列數(shù)據(jù)的全局關(guān)系的結(jié)合顯著提高了模型對輸入序列的理解和處理能力并顯示出其在預測精度上的優(yōu)勢。
圖6 CNN-Transformer和Transformer、LSTM網(wǎng)絡(luò)結(jié)構(gòu)實驗結(jié)果對比：(a) B0005；(b) B0006；(c) B0007；(d) B0018
表2 不同算法SOH誤差對比結(jié)果圖
為了全面評估本研究所提出的算法對于不同數(shù)據(jù)集以及不同起始點的泛化能力，本文采用了馬里蘭大學數(shù)據(jù)集的80%作為訓練數(shù)據(jù)，剩余的20%作為預測數(shù)據(jù)進行了深入的實驗驗證。實驗結(jié)果如圖7所示，從圖中可以清晰地觀察到，提出的Poly-CNN-Transformer模型在面對多樣化的數(shù)據(jù)集時，依然展現(xiàn)出強大的適應性和穩(wěn)定性。
圖7 馬里蘭大學數(shù)據(jù)集實驗結(jié)果：(a) 多項式特征實驗；(b) 不同網(wǎng)絡(luò)模型實驗
馬里蘭大學CS2_35數(shù)據(jù)集實驗SOH誤差對比結(jié)果如表3所示，通過對比分析，相較于Poly-Transformer模型、Poly-LSTM模型和CNN-Transformer模型，提出的Poly-CNN-Transformer模型MAE分別降低了29.9%、13.73%和3.77%。這一結(jié)果不僅凸顯了本研究所提出模型的優(yōu)越性，更進一步證實了Poly-CNN-Transformer模型在處理不同數(shù)據(jù)集和不同起始點時的卓越泛化能力。
表3 馬里蘭大學CS2_35數(shù)據(jù)集實驗SOH誤差對比結(jié)果
表4展示了CNN-Transformer、Transformer和LSTM網(wǎng)絡(luò)的參數(shù)量與在4060Ti的GPU上迭代一次所需時間。Transformer模型的迭代時間近似是LSTM的2倍，這是由于Transformer模型的計算復雜度更高，導致運行時間增加。在每個迭代步驟中，Transformer模型，需要執(zhí)行多頭自注意力機制和前饋神經(jīng)網(wǎng)絡(luò)，這些操作相對于LSTM的循環(huán)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)來說，計算量更大。然而，由于估計電池健康度模型屬于參數(shù)量較少的模型，迭代一次時間僅為微秒級別，可以適當放寬迭代時間以提高精度。
表4 模型參數(shù)與訓練時間
4 結(jié) 論
本文通過融合CNN出色的局部特征抽取能力和Transformer強大的序列處理能力，構(gòu)建了基于多項式特征擴展的CNN-Transformer混合模型。在訓練過程中，CNN應用了數(shù)據(jù)增強技術(shù)，有助于提高模型對數(shù)據(jù)的魯棒性和泛化能力，從而降低預測的不確定性。同時，Transformer通過自注意力機制實現(xiàn)全局關(guān)注，能夠同時考慮輸入序列中所有位置的信息，有助于建立全局依賴關(guān)系。論文深入分析了充電過程中的多項關(guān)鍵特征，涵蓋IC曲線峰值、峰值對應電壓、IC曲線面積、充電至4 V所需時間以及充電過程的最高溫度等，并借助皮爾遜相關(guān)性分析，量化了這些特征與真實容量之間的關(guān)聯(lián)性，作為提出融合模型的輸入特征。此外，歸一化和PCA降維處理進一步提升了模型的訓練效率和泛化能力。
利用NASA數(shù)據(jù)集和馬里蘭大學數(shù)據(jù)集驗證了提出模型的精確度、魯棒性和泛化能力，通過多項式特征擴展，有效提升了SOH估計的精確度，提出模型的SOH估計精度相較于未加入多項式特征的CNN-Transformer模型，在B0005、B0006、B0007、B0018數(shù)據(jù)集分別提高了38.71%、50.28%、4.71%、17.58%。通過CNN與Trans former的有機融合，顯著增強了模型在處理序列數(shù)據(jù)時對局部特征的捕捉能力，加入多項式特征后，CNN-Transformer模型在NASA數(shù)據(jù)集上相較于Transformer模型和LSTM模型，平均精度分別提高了32.47%和21.07%。
