恭喜成都艾特能電氣科技有限責(zé)任公司許軼博獲國家專利權(quán)
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監(jiān)控用IP管家,真方便!
龍圖騰網(wǎng)恭喜成都艾特能電氣科技有限責(zé)任公司申請的專利一種基于梯度平衡的多類別模型訓(xùn)練方法、介質(zhì)及設(shè)備獲國家發(fā)明授權(quán)專利權(quán),本發(fā)明授權(quán)專利權(quán)由國家知識產(chǎn)權(quán)局授予,授權(quán)公告號為:CN112633359B 。
龍圖騰網(wǎng)通過國家知識產(chǎn)權(quán)局官網(wǎng)在2025-05-06發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉:該發(fā)明授權(quán)的專利申請?zhí)?專利號為:202011509570.5,技術(shù)領(lǐng)域涉及:G06F18/214;該發(fā)明授權(quán)一種基于梯度平衡的多類別模型訓(xùn)練方法、介質(zhì)及設(shè)備是由許軼博;潘澤文;范宏偉;李佳斌設(shè)計研發(fā)完成,并于2020-12-18向國家知識產(chǎn)權(quán)局提交的專利申請。
本一種基于梯度平衡的多類別模型訓(xùn)練方法、介質(zhì)及設(shè)備在說明書摘要公布了:本發(fā)明提供了一種基于梯度平衡的多類別模型訓(xùn)練方法、介質(zhì)及設(shè)備,其中模型訓(xùn)練方法包括通過將訓(xùn)練樣本數(shù)據(jù)輸入到選定的神經(jīng)網(wǎng)絡(luò)模型進行訓(xùn)練獲得損失函數(shù);統(tǒng)計訓(xùn)練模型時損失函數(shù)的梯度分布;根據(jù)分布結(jié)果分配樣本權(quán)重;權(quán)重的平滑處理;權(quán)重的衰減處理;獲取新梯度更新網(wǎng)絡(luò)模型;本發(fā)明通過在訓(xùn)練的過程中根據(jù)輸入訓(xùn)練樣本數(shù)據(jù)得到的損失函數(shù)梯度的分布,調(diào)整樣本分配的權(quán)重,平衡不同程度難易樣本對模型的影響,縮短了模型訓(xùn)練時間同時提升了模型的精度。
本發(fā)明授權(quán)一種基于梯度平衡的多類別模型訓(xùn)練方法、介質(zhì)及設(shè)備在權(quán)利要求書中公布了:1.一種基于梯度平衡的多類別模型訓(xùn)練方法,其特征在于,方法包括如下步驟:S1:獲取OpenImage數(shù)據(jù)集作為訓(xùn)練樣本,將訓(xùn)練樣本數(shù)據(jù)輸入到選定的神經(jīng)網(wǎng)絡(luò)模型進行訓(xùn)練獲得損失函數(shù);S2:統(tǒng)計訓(xùn)練模型時損失函數(shù)的梯度分布;通過前向傳播的方式訓(xùn)練構(gòu)建好的網(wǎng)絡(luò)模型,計算損失函數(shù),并對損失函數(shù)的梯度進行統(tǒng)計;具體步驟如下:S201:訓(xùn)練數(shù)據(jù)集輸入后計算出損失函數(shù)并求導(dǎo),輸入樣本導(dǎo)數(shù)的絕對值取值范圍為[0,U],其中U是樣本導(dǎo)數(shù)絕對值取值范圍的上邊界,將導(dǎo)數(shù)絕對值取值范圍平均分割為m段,即分為的區(qū)間段;S202:每一批次輸入的訓(xùn)練數(shù)據(jù)樣本會得到對應(yīng)的導(dǎo)數(shù),對每個類別單獨統(tǒng)計導(dǎo)數(shù)分布,根據(jù)各個區(qū)間的導(dǎo)數(shù)數(shù)量,建立大小為m×n的分布矩陣K進行統(tǒng)計,每輸入一匹訓(xùn)練數(shù)據(jù)樣本到模型中,更新分布矩陣K;S3:分配樣本權(quán)重;根據(jù)獲得的梯度分布統(tǒng)計結(jié)果,對每個樣本分配相應(yīng)的權(quán)重,對于類別k,其分布為:a1k,a2k,…,amk其中aik表示類別k導(dǎo)數(shù)在第i個區(qū)間內(nèi)的數(shù)量;根據(jù)類別k的分布計算出類別k在權(quán)重矩陣W中的行向量為:[w1k,w2k,…,wmk]其中wik表示所述類別k在對應(yīng)i的權(quán)重,所述wik的計算公式如下:wik=a1k+a2k+…+amkaik×mS4:權(quán)重的平滑;對獲得的樣本對應(yīng)的權(quán)重進行平滑處理,縮小過大的權(quán)重;S5:平滑后權(quán)重的衰減處理;在訓(xùn)練過程中對平滑項進行衰減,使得訓(xùn)練結(jié)束后平滑項衰減到0,平滑項Si的衰減公式為:Si=0.5-0.5×iZ其中Z為模型訓(xùn)練是設(shè)定的總訓(xùn)練步數(shù);S6:獲取新梯度更新網(wǎng)絡(luò)模型;將經(jīng)過平滑和衰減處理的權(quán)重矩陣與原損失函數(shù)梯度相乘獲得新的梯度,并通過反向傳播更新網(wǎng)絡(luò)模型的參數(shù)。
如需購買、轉(zhuǎn)讓、實施、許可或投資類似專利技術(shù),可聯(lián)系本專利的申請人或?qū)@麢?quán)人成都艾特能電氣科技有限責(zé)任公司,其通訊地址為:610000 四川省成都市高新區(qū)天辰路88號1棟6層1號;或者聯(lián)系龍圖騰網(wǎng)官方客服,聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。
1、本報告根據(jù)公開、合法渠道獲得相關(guān)數(shù)據(jù)和信息,力求客觀、公正,但并不保證數(shù)據(jù)的最終完整性和準確性。
2、報告中的分析和結(jié)論僅反映本公司于發(fā)布本報告當日的職業(yè)理解,僅供參考使用,不能作為本公司承擔(dān)任何法律責(zé)任的依據(jù)或者憑證。
- 恭喜英特爾公司V.馬杜里獲國家專利權(quán)
- 恭喜孫亮獲國家專利權(quán)
- 恭喜上海微創(chuàng)心通醫(yī)療科技有限公司吳旭聞獲國家專利權(quán)
- 恭喜福特全球技術(shù)公司亞倫·馬修·德朗獲國家專利權(quán)
- 恭喜無錫天極芯科技有限公司張懷東獲國家專利權(quán)
- 恭喜深圳邁瑞生物醫(yī)療電子股份有限公司李雙雙獲國家專利權(quán)
- 恭喜吉利德科學(xué)公司E·M·巴肯獲國家專利權(quán)
- 恭喜世宗大學(xué)校產(chǎn)學(xué)協(xié)力團文柱禧獲國家專利權(quán)
- 恭喜青島海爾空調(diào)器有限總公司陳睿獲國家專利權(quán)
- 恭喜邵碧璐獲國家專利權(quán)


熱門推薦
- 恭喜清華大學(xué)楊興獲國家專利權(quán)
- 恭喜王劍獲國家專利權(quán)
- 恭喜浙江紹興蘇泊爾生活電器有限公司李亞鑫獲國家專利權(quán)
- 恭喜OPPO廣東移動通信有限公司唐海獲國家專利權(quán)
- 恭喜杭州小米環(huán)境科技有限公司王啟定獲國家專利權(quán)
- 恭喜英特爾公司A·孫達拉姆獲國家專利權(quán)
- 恭喜青島海爾洗碗機有限公司張敏獲國家專利權(quán)
- 恭喜枘熠集成電路(上海)有限公司請求不公布姓名獲國家專利權(quán)
- 恭喜福特全球技術(shù)公司哈菲茲·謝菲克·哈法吉獲國家專利權(quán)
- 恭喜ASM IP私人控股有限公司M·明喬夫獲國家專利權(quán)