恭喜南京理工大學廖杰獲國家專利權(quán)
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監(jiān)控用IP管家,真方便!
龍圖騰網(wǎng)恭喜南京理工大學申請的專利基于聯(lián)邦學習及均值迭代的機器學習模型壓縮方法獲國家發(fā)明授權(quán)專利權(quán),本發(fā)明授權(quán)專利權(quán)由國家知識產(chǎn)權(quán)局授予,授權(quán)公告號為:CN114202077B 。
龍圖騰網(wǎng)通過國家知識產(chǎn)權(quán)局官網(wǎng)在2025-04-15發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉:該發(fā)明授權(quán)的專利申請?zhí)?專利號為:202111610294.6,技術(shù)領(lǐng)域涉及:G06N20/00;該發(fā)明授權(quán)基于聯(lián)邦學習及均值迭代的機器學習模型壓縮方法是由廖杰;馬川;錢玉文;李駿;韋康設(shè)計研發(fā)完成,并于2021-12-27向國家知識產(chǎn)權(quán)局提交的專利申請。
本基于聯(lián)邦學習及均值迭代的機器學習模型壓縮方法在說明書摘要公布了:本發(fā)明公開了一種基于聯(lián)邦學習及均值迭代的機器學習模型壓縮方法,包括以下步驟:用戶在本地端進行聯(lián)邦學習獲取本次的機器學習模型;針對用戶進行聯(lián)邦學習得到的機器學習模型,使用均值迭代模型壓縮算法壓縮;將壓縮后的機器學習模型上傳到中心服務(wù)器,對壓縮后的機器學習模型進行還原和模型聚合處理,對聚合后的機器學習模型進行精度檢測。本發(fā)明通過均值迭代壓縮算法來動態(tài)調(diào)整邊界和優(yōu)化值,獲得量化區(qū)間的最優(yōu)值和最佳邊界區(qū)間,進而在高壓縮率下,保證模型的收斂和模型的精度。
本發(fā)明授權(quán)基于聯(lián)邦學習及均值迭代的機器學習模型壓縮方法在權(quán)利要求書中公布了:1.一種基于聯(lián)邦學習及均值迭代的機器學習模型壓縮方法,其特征在于,包括以下步驟:步驟1、用戶在本地端進行聯(lián)邦學習獲取本次的機器學習模型,表示為gi;步驟2、針對用戶進行聯(lián)邦學習得到的機器學習模型,使用均值迭代模型壓縮算法壓縮,具體如下:步驟21、設(shè)置量化等級M,同時將用戶訓練好的模型gi,整理為一個由小到大排序好的、模型長度為L的鍵值對序列,公式表示為:gsort_i={θ1,θ2,......θL-1,θL}gkeys_i={key1,key2,......,keyL-1,keyL}其中,gsort_i表示用戶i整理后的模型,{θ1,θ2,......θL-1,θL}表示的是用戶gsort_i模型內(nèi)部排序后的參數(shù);gkeys_i表示用戶i整理后的索引序列;{key1,key2,......,keyL-1,keyL}表示用戶排序后的索引值;為了在最后傳輸量化后的二進制編碼,定義一個長度為L的量化編碼序列,數(shù)學公式表示為:Codei={c1,c1,......,cL-1,cL},其中Codei表示的是的編碼后的模型,{c1,c1,......,cL-1,cL}表示的是用戶i模型參數(shù)對應的二進制編碼值;步驟22、設(shè)置邊界值樣本個數(shù)K,滿足條件K=M+1,初始狀態(tài)下,隨機給定的K個邊界值,數(shù)學表示為:Di={d1,d2,......,dK-1,dK},初始邊界值滿足:θ1=d1<d2,......,dK-1<dK=θL;邊界內(nèi)部設(shè)置量化編碼值的個數(shù)為M個,數(shù)學表示為:Codedi={v1,v2,......,vM-1,vM},其中Codedi表示的是用戶i的量化編碼值;步驟23、求出每個相鄰邊界內(nèi)部模型參數(shù)的均值,均值作為本次迭代更新的量化編碼值,同時對Codei的編碼模型進行量化編碼,計算出每一個編碼值對應的誤差和Qerr={err1,err2,.....,errM-1,errM},求解過程如下: … 其中,vM表示量化的編碼值,LenθL表示在約束條件dM≤θL≤dM+1時的參數(shù)個數(shù),cL表示的二進制編碼,errM表示每個邊界的誤差和,dM≤θL≤dM+1是參數(shù)θL的約束條件;步驟24、計算本次模型的量化誤差總和Qall,數(shù)學表示為:Qall=∑errm,m=1,2,......,M步驟25、通過量化編碼值更新邊界值,數(shù)學表示為: 根據(jù)上述步驟求解出本次的量化誤差Qall;重復步驟23~步驟25步,計算得到下次的量化誤差Qnext:如果誤差不相等,則進行迭代操作,重復步驟23~步驟25步;如果相等那么已經(jīng)求解到最優(yōu)解,由gkeys_i={key1,key2,......,keyL-1,keyL}和Codei={c1,c2,......,cL-1,cL},求解原始模型排序的模型二進制編碼Codeorig_i={s1,s2,......,sL-1,sL},輸出模型二進制編碼Codeorig_i={s1,s2,......,sL-1,sL}和量化編碼值Codedi={v1,v2,......,vM-1,vM};步驟3、將壓縮后的機器學習模型上傳到中心服務(wù)器,對壓縮后的機器學習模型進行還原和模型聚合處理,對聚合后的機器學習模型進行精度檢測。
如需購買、轉(zhuǎn)讓、實施、許可或投資類似專利技術(shù),可聯(lián)系本專利的申請人或?qū)@麢?quán)人南京理工大學,其通訊地址為:210094 江蘇省南京市玄武區(qū)孝陵衛(wèi)200號;或者聯(lián)系龍圖騰網(wǎng)官方客服,聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。
1、本報告根據(jù)公開、合法渠道獲得相關(guān)數(shù)據(jù)和信息,力求客觀、公正,但并不保證數(shù)據(jù)的最終完整性和準確性。
2、報告中的分析和結(jié)論僅反映本公司于發(fā)布本報告當日的職業(yè)理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據(jù)或者憑證。
- 恭喜一康合資有限公司R·W·蒂特巴爾獲國家專利權(quán)
- 恭喜劍橋機電有限公司黃冠瑋獲國家專利權(quán)
- 恭喜北京奇虎科技有限公司魏狄龍獲國家專利權(quán)
- 恭喜佳能株式會社松丸直樹獲國家專利權(quán)
- 恭喜中石化石油工程技術(shù)服務(wù)有限公司張曉明獲國家專利權(quán)
- 恭喜上海微創(chuàng)心通醫(yī)療科技有限公司吳旭聞獲國家專利權(quán)
- 恭喜朗姆研究公司法亞茲·謝赫獲國家專利權(quán)
- 恭喜科美診斷技術(shù)股份有限公司練子富獲國家專利權(quán)
- 恭喜洋馬動力科技有限公司北川智明獲國家專利權(quán)
- 恭喜華為技術(shù)有限公司劉海獲國家專利權(quán)


熱門推薦
- 恭喜三星顯示有限公司全景辰獲國家專利權(quán)
- 恭喜中國人民解放軍軍事科學院國防工程研究院張曉辰獲國家專利權(quán)
- 恭喜安圖實驗儀器(鄭州)有限公司鄭業(yè)煥獲國家專利權(quán)
- 恭喜原相科技股份有限公司蔡佐升獲國家專利權(quán)
- 恭喜深圳大醫(yī)伽瑪?shù)犊萍加邢薰竟佾@國家專利權(quán)
- 恭喜中國石油化工股份有限公司張婧獲國家專利權(quán)
- 恭喜浙江紹興蘇泊爾生活電器有限公司吳玉蘭獲國家專利權(quán)
- 恭喜北京奇虎科技有限公司徐龍獲國家專利權(quán)
- 恭喜意法半導體(格勒諾布爾2)公司S·萊切獲國家專利權(quán)
- 恭喜深圳大醫(yī)伽瑪?shù)犊萍加邢薰竟佾@國家專利權(quán)