買專利賣專利找龍圖騰，真高效！ 查專利查商標(biāo)用IPTOP,全免費(fèi)！專利年費(fèi)監(jiān)控用IP管家,真方便！

龍圖騰網(wǎng)恭喜浙江工業(yè)大學(xué)申請(qǐng)的專利一種基于改進(jìn)Transformer模型的水泵設(shè)備剩余使用壽命預(yù)測方法獲國家發(fā)明授權(quán)專利權(quán)，本發(fā)明授權(quán)專利權(quán)由國家知識(shí)產(chǎn)權(quán)局授予，授權(quán)公告號(hào)為：CN115688556B 。

龍圖騰網(wǎng)通過國家知識(shí)產(chǎn)權(quán)局官網(wǎng)在2025-05-23發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉：該發(fā)明授權(quán)的專利申請(qǐng)?zhí)?專利號(hào)為：202211094317.7，技術(shù)領(lǐng)域涉及：G06F30/27；該發(fā)明授權(quán)一種基于改進(jìn)Transformer模型的水泵設(shè)備剩余使用壽命預(yù)測方法是由潘建;李芋江設(shè)計(jì)研發(fā)完成，并于2022-09-08向國家知識(shí)產(chǎn)權(quán)局提交的專利申請(qǐng)。

本一種基于改進(jìn)Transformer模型的水泵設(shè)備剩余使用壽命預(yù)測方法在說明書摘要公布了：一種基于改進(jìn)Transformer模型的水泵設(shè)備剩余使用壽命預(yù)測方法，包括以下步驟：步驟S1采集數(shù)據(jù)并構(gòu)建和預(yù)處理數(shù)據(jù)集，步驟S2將數(shù)據(jù)集按比例劃分為訓(xùn)練集和驗(yàn)證集，步驟S3對(duì)數(shù)據(jù)集構(gòu)建輸入向量，并對(duì)輸入向量進(jìn)行步驟S4的編碼、步驟S5的第一層改進(jìn)的多頭自注意力機(jī)制處理和步驟S6的第二層多頭注意力機(jī)制處理得到輸出向量，步驟S7通過非對(duì)稱損失函數(shù)計(jì)算輸出向量的損失值，步驟S8重復(fù)執(zhí)行步驟S3至步驟S7對(duì)模型進(jìn)行n輪訓(xùn)練，得到最優(yōu)模型，步驟S9采集實(shí)時(shí)數(shù)據(jù)輸入模型預(yù)測水泵設(shè)備的剩余使用壽命；本方法對(duì)多頭注意力機(jī)制作出改進(jìn)以篩選出重要注意力，提高模型的信息提取能力并減少模型參數(shù)，達(dá)到更好的預(yù)測效果。

本發(fā)明授權(quán)一種基于改進(jìn)Transformer模型的水泵設(shè)備剩余使用壽命預(yù)測方法在權(quán)利要求書中公布了：1.一種基于改進(jìn)Transformer模型的水泵設(shè)備剩余使用壽命預(yù)測方法，其特征在于，包括以下步驟：S1、采集不同時(shí)刻的傳感器測量特征和水泵設(shè)備剩余使用壽命組成數(shù)據(jù)集S，對(duì)數(shù)據(jù)集S進(jìn)行預(yù)處理得到數(shù)據(jù)集S1，數(shù)據(jù)集S表示為{Si|Si＝t,x1,x2,…,xk,r,1≤i≤n}，其中Si表示第i個(gè)數(shù)據(jù)，t表示采集時(shí)間、x1,x2,…,xk表示第1個(gè)至第k個(gè)傳感器測量特征，r表示剩余使用壽命，k表示傳感器測量特征的個(gè)數(shù)，n為數(shù)據(jù)集S的大小；S2、將數(shù)據(jù)集S1按比例劃分為訓(xùn)練集T和驗(yàn)證集V；S3、對(duì)數(shù)據(jù)集S1使用滑動(dòng)窗口構(gòu)建輸入向量，輸入向量為向量Finput和向量Foutput；S4、對(duì)向量Finput和向量Foutput分別進(jìn)行編碼以得到對(duì)應(yīng)向量和向量S5、對(duì)向量和向量分別進(jìn)行第一層多頭自注意力機(jī)制處理后輸入到Transformer模型的殘差網(wǎng)絡(luò)和全連接層以得到對(duì)應(yīng)輸出向量和向量S6、將向量和向量同時(shí)進(jìn)行第二層多頭注意力機(jī)制處理后得到向量然后向量輸入到Transformer模型的殘差網(wǎng)絡(luò)和全連接層得到最終的輸出結(jié)果Fout；S7、通過非對(duì)稱損失函數(shù)計(jì)算輸出結(jié)果Fout的損失值，輸出結(jié)果Fout的輸入向量來自訓(xùn)練集T時(shí)反向傳播更新模型參數(shù)，輸出結(jié)果Fout的輸入向量來自驗(yàn)證集V時(shí)記錄損失值；S8、重復(fù)執(zhí)行S3至S7對(duì)Transformer模型進(jìn)行訓(xùn)練，對(duì)驗(yàn)證集V中每個(gè)滑動(dòng)窗口記錄的損失值并求取平均值作為該輪訓(xùn)練的損失值，對(duì)模型進(jìn)行n輪訓(xùn)練，將損失值最小的Transformer模型參數(shù)作為最優(yōu)的Transformer模型參數(shù)保存；S9、獲得水泵設(shè)備的傳感器的檢測值，得到維度為l-1×m+2的向量，輸入Transformer模型得到剩余使用壽命r；所述步驟S5中，對(duì)向量和向量分別進(jìn)行第一層多頭自注意力機(jī)制處理后輸入到Transformer模型的殘差網(wǎng)絡(luò)和全連接層以得到對(duì)應(yīng)輸出向量和向量的步驟如下：S5.1、將向量進(jìn)行多頭自注意力機(jī)制處理，首先將向量分別賦值給Q、K、V，然后將Q、K、V劃分為8個(gè)自注意力得到Qt、Kt、Vt，其中1≤t≤8，向量的維度由l-1×512調(diào)整為8×l-1×64，分別對(duì)Qt、Kt、Vt使用度量公式：進(jìn)行計(jì)算,其中qi∈Qt，kj∈Kt，1≤i、j≤l-1，計(jì)算的Mqi,Kt的值降序排列并選擇排列在前的l-12個(gè)值，值的個(gè)數(shù)向下取整，在Qt中篩選出的qi，qi表述Qt中的第i行數(shù)據(jù)，使用注意力公式：計(jì)算注意力值，對(duì)Vt按行均值化，在行均值化后的Vt中對(duì)篩選出的qi的位置索引，并將該位置索引處的數(shù)據(jù)替換為計(jì)算的注意力值以得到Ft，將8個(gè)Ft通過矩陣拼接得到維度為l-1×512的向量Fatt；S5.2、將向量Fatt輸入到Transformer模型的殘差網(wǎng)絡(luò)和全連接層得到向量S5.3、使用多頭自注意力機(jī)制處理向量其中Mqi,Kt的值降序排列并選擇排列靠前的l+14個(gè)值，并將處理后的向量輸入到Transformer模型的殘差網(wǎng)絡(luò)和全連接層得到向量所述步驟S6中，包括以下步驟：S6.1、向量賦值給Q，向量賦值給，向量Q、K和V拆分為8個(gè)注意力塊后分別計(jì)算注意力，將8個(gè)注意力塊矩陣拼接為向量S6.2、將向量輸入到Transformer模型的殘差網(wǎng)絡(luò)和全連接層得到向量Fout，向量Fout維度為

如需購買、轉(zhuǎn)讓、實(shí)施、許可或投資類似專利技術(shù)，可聯(lián)系本專利的申請(qǐng)人或?qū)＠麢?quán)人浙江工業(yè)大學(xué)，其通訊地址為：310000 浙江省杭州市拱墅區(qū)潮王路18號(hào)；或者聯(lián)系龍圖騰網(wǎng)官方客服，聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。