恭喜西北工業(yè)大學(xué)張艷寧獲國家專利權(quán)
買專利賣專利找龍圖騰,真高效! 查專利查商標(biāo)用IPTOP,全免費!專利年費監(jiān)控用IP管家,真方便!
龍圖騰網(wǎng)恭喜西北工業(yè)大學(xué)申請的專利一種基于類原型提示和虛擬邏輯值的持續(xù)學(xué)習(xí)方法獲國家發(fā)明授權(quán)專利權(quán),本發(fā)明授權(quán)專利權(quán)由國家知識產(chǎn)權(quán)局授予,授權(quán)公告號為:CN119598272B 。
龍圖騰網(wǎng)通過國家知識產(chǎn)權(quán)局官網(wǎng)在2025-05-20發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉:該發(fā)明授權(quán)的專利申請?zhí)?專利號為:202510148888.1,技術(shù)領(lǐng)域涉及:G06F18/24;該發(fā)明授權(quán)一種基于類原型提示和虛擬邏輯值的持續(xù)學(xué)習(xí)方法是由張艷寧;譚杰;張世周;路悅;王鵬;田雪濤;席慶彪設(shè)計研發(fā)完成,并于2025-02-11向國家知識產(chǎn)權(quán)局提交的專利申請。
本一種基于類原型提示和虛擬邏輯值的持續(xù)學(xué)習(xí)方法在說明書摘要公布了:本發(fā)明公開了一種基于類原型提示和虛擬邏輯值的持續(xù)學(xué)習(xí)方法,涉及模式識別技術(shù)領(lǐng)域,本發(fā)明為每個任務(wù)訓(xùn)練一個任務(wù)特定提示,在選擇加入提示方法方面提出了一種基于類原型的提示查詢機制,并向原本固定的查詢函數(shù)加入提示動量地更新,消除了加入提示不均勻的問題。同時,此方法還提出向分類器輸出的邏輯中加入虛擬生成的邏輯,使得分類器具有更好的分類邊界,達(dá)到解決任務(wù)間混淆問題的目的。本發(fā)明解決了現(xiàn)有方法存在提示查詢不均勻性問題,以及未能充分緩解任務(wù)間混淆,從而存在嚴(yán)重災(zāi)難性遺忘現(xiàn)象的問題。
本發(fā)明授權(quán)一種基于類原型提示和虛擬邏輯值的持續(xù)學(xué)習(xí)方法在權(quán)利要求書中公布了:1.一種基于類原型提示和虛擬邏輯值的持續(xù)學(xué)習(xí)方法,其特征在于,包括以下步驟:S1:在查詢函數(shù)微調(diào)階段中,將當(dāng)前任務(wù)的圖像和引入的提示輸入至預(yù)訓(xùn)練的編碼器進(jìn)行訓(xùn)練,并通過訓(xùn)練樣本的交叉熵?fù)p失反向傳播更新分類器參數(shù)和提示;所述S1中包括以下分步驟:S11:進(jìn)行模型參數(shù)初始化,并將當(dāng)前任務(wù)的圖像和引入的提示輸入至預(yù)訓(xùn)練的編碼器,獲得圖像特征;S12:將圖像特征輸入至分類器中,經(jīng)分類器獲得前向傳播得到的輸出;S13:基于前向傳播得到的輸出,計算每個樣本的第一交叉熵?fù)p失,并通過反向傳播更新分類器和提示;S2:基于更新后的提示和前一個任務(wù)查詢函數(shù)中的提示,利用動量更新提示,并結(jié)合預(yù)訓(xùn)練的編碼器,獲得當(dāng)前任務(wù)的查詢函數(shù);S3:基于當(dāng)前任務(wù)的查詢函數(shù)和當(dāng)前任務(wù)的圖像,提取訓(xùn)練樣本的查詢特征,并通過查詢特征為當(dāng)前任務(wù)的每個類別樣本計算一個類原型,同時將類原型存儲在原型池中;S4:在基于虛擬邏輯值的提示微調(diào)階段中,將當(dāng)前任務(wù)的圖像和提示輸入至另一預(yù)訓(xùn)練的編碼器中,通過加入虛擬邏輯值計算訓(xùn)練樣本的交叉熵?fù)p失,并根據(jù)交叉熵?fù)p失反向傳播更新分類器和提示,同時將更新的提示存儲在提示池中;所述S4中包括以下分步驟:S41:將當(dāng)前任務(wù)的圖像和提示輸入至另一預(yù)訓(xùn)練的編碼器中,獲得圖像特征;S42:將圖像特征輸入至分類器中,經(jīng)分類器獲得前向傳播得到的輸出邏輯值;S43:使用虛擬邏輯值生成器生成一個虛擬邏輯值,并將所述虛擬邏輯值加入至前向傳播得到的輸出邏輯值中,獲得擴展邏輯值;S44:利用擴展邏輯值計算每個樣本的第二交叉熵?fù)p失,并通過反向傳播更新分類器和提示;S45:根據(jù)更新得到的提示,將其存儲在提示池中;S5:重復(fù)上述步驟S1-S4,直至完成當(dāng)前任務(wù)的訓(xùn)練,并基于存儲的類原型和提示,利用當(dāng)前任務(wù)的測試樣本進(jìn)行測試,獲得分類結(jié)果,完成基于類原型提示和虛擬邏輯值的持續(xù)學(xué)習(xí);所述S5中基于存儲的類原型和提示,利用當(dāng)前任務(wù)的測試樣本進(jìn)行測試,獲得分類結(jié)果,包括以下分步驟:S51:選取測試集中的一個測試樣本,并將測試樣本輸入至通過動量更新的查詢函數(shù)中提取其查詢特征;S52:計算提取的查詢特征與存儲在原型池中的類原型之間的距離,并選擇最近鄰類原型所對應(yīng)的任務(wù)標(biāo)簽,公式為: 其中,表示歐式距離,表示首先固定任務(wù)對類別最小化,然后再對任務(wù)最小化,最終得到最近鄰類原型對應(yīng)的任務(wù)標(biāo)簽,為當(dāng)前任務(wù)的第個類別的類原型;S53:基于任務(wù)標(biāo)簽選擇對應(yīng)的存儲在提示池中的提示,并將提示與測試樣本一同輸入至模型中,獲得特征;S54:將特征輸入至分類器中獲得分類結(jié)果。
如需購買、轉(zhuǎn)讓、實施、許可或投資類似專利技術(shù),可聯(lián)系本專利的申請人或?qū)@麢?quán)人西北工業(yè)大學(xué),其通訊地址為:710068 陜西省西安市友誼西路127號;或者聯(lián)系龍圖騰網(wǎng)官方客服,聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。
1、本報告根據(jù)公開、合法渠道獲得相關(guān)數(shù)據(jù)和信息,力求客觀、公正,但并不保證數(shù)據(jù)的最終完整性和準(zhǔn)確性。
2、報告中的分析和結(jié)論僅反映本公司于發(fā)布本報告當(dāng)日的職業(yè)理解,僅供參考使用,不能作為本公司承擔(dān)任何法律責(zé)任的依據(jù)或者憑證。


熱門推薦
- 恭喜昆山嘉華汽車電子科技有限公司劉長坤獲國家專利權(quán)
- 恭喜三星顯示有限公司李棟揆獲國家專利權(quán)
- 恭喜浙江德施曼科技智能股份有限公司鄧業(yè)豪獲國家專利權(quán)
- 恭喜東莞特大紡織科技有限公司李勇達(dá)獲國家專利權(quán)
- 恭喜北京京源恒泰云科技有限公司韓廷亞獲國家專利權(quán)
- 恭喜豪山廚房器具(中國)有限公司林信開獲國家專利權(quán)
- 恭喜陜西煤業(yè)化工技術(shù)研究院有限責(zé)任公司冀瑞君獲國家專利權(quán)
- 恭喜寧波艾斐堡智能安防有限公司陳海敏獲國家專利權(quán)
- 恭喜株式會社API水谷正治獲國家專利權(quán)
- 恭喜羅伯特·博世有限公司C·溫特爾獲國家專利權(quán)