買專利賣專利找龍圖騰，真高效！ 查專利查商標(biāo)用IPTOP,全免費(fèi)！專利年費(fèi)監(jiān)控用IP管家,真方便！

龍圖騰網(wǎng)獲悉西北工業(yè)大學(xué)申請的專利一種具有漂移修正和收斂加速的聯(lián)邦學(xué)習(xí)方法獲國家發(fā)明授權(quán)專利權(quán)，本發(fā)明授權(quán)專利權(quán)由國家知識(shí)產(chǎn)權(quán)局授予，授權(quán)公告號為：CN117217329B 。

龍圖騰網(wǎng)通過國家知識(shí)產(chǎn)權(quán)局官網(wǎng)在2025-04-01發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉：該發(fā)明授權(quán)的專利申請?zhí)?專利號為：202311170375.8，技術(shù)領(lǐng)域涉及：G06N20/00；該發(fā)明授權(quán)一種具有漂移修正和收斂加速的聯(lián)邦學(xué)習(xí)方法是由蔣雯;楊季皓;聶來森設(shè)計(jì)研發(fā)完成，并于2023-09-11向國家知識(shí)產(chǎn)權(quán)局提交的專利申請。

本一種具有漂移修正和收斂加速的聯(lián)邦學(xué)習(xí)方法在說明書摘要公布了：本發(fā)明公開了一種具有漂移修正和收斂加速的聯(lián)邦學(xué)習(xí)方法，包括以下步驟：構(gòu)建包括一個(gè)中央服務(wù)器和多個(gè)客戶端的聯(lián)邦學(xué)習(xí)系統(tǒng)，中央服務(wù)器每次選擇部分活動(dòng)客戶端并下發(fā)模型；被選中的客戶端利用本地?cái)?shù)據(jù)對模型進(jìn)行訓(xùn)練，在訓(xùn)練后對本地漂移變量和全局漂移變量進(jìn)行更新，并將訓(xùn)練后的模型參數(shù)上傳至中央服務(wù)器；中央服務(wù)器利用服務(wù)器端的漂移變量對更新后的本地模型參數(shù)進(jìn)行聯(lián)邦聚合，并將聚合更新后的本地模型下發(fā)至活動(dòng)客戶端進(jìn)行下一輪本地訓(xùn)練。本發(fā)明將漂移變量分解為本地漂移變量和全局漂移變量并對它們進(jìn)行分別更新，同時(shí)在不需要傳輸額外變量的情況下獲得了更加準(zhǔn)確的修正模型參數(shù)，從而有效提升模型的性能，加速模型的收斂，顯著降低通信開銷。

本發(fā)明授權(quán)一種具有漂移修正和收斂加速的聯(lián)邦學(xué)習(xí)方法在權(quán)利要求書中公布了：1.一種具有漂移修正和收斂加速的聯(lián)邦學(xué)習(xí)方法，其特征在于，包括以下步驟：步驟一、構(gòu)建包括一個(gè)中央服務(wù)器和N個(gè)客戶端的典型聯(lián)邦學(xué)習(xí)系統(tǒng)：步驟101、意圖參與聯(lián)邦訓(xùn)練客戶端向中央服務(wù)器發(fā)起注冊，中央服務(wù)器為該客戶端分配存儲(chǔ)空間用于存儲(chǔ)模型參數(shù)；步驟102、在第t個(gè)通信回合，中央服務(wù)器以概率ε選擇部分活動(dòng)客戶端子集St，并將全局模型wt下發(fā)給St內(nèi)所有的S個(gè)客戶端；步驟二、被選中的客戶端利用本地?cái)?shù)據(jù)對模型進(jìn)行訓(xùn)練，在訓(xùn)練后對本地漂移變量和全局漂移變量進(jìn)行更新，并將訓(xùn)練后的模型參數(shù)上傳至中央服務(wù)器：步驟201、本地客戶端i∈St采用隨機(jī)梯度下降法對模型進(jìn)行K次本地更新，即： 其中，是本地?fù)p失函數(shù)，是經(jīng)典的交叉熵?fù)p失，和分別是本地漂移變量和全局漂移變量，α和β分別是漂移變量近端項(xiàng)和全局參數(shù)修正項(xiàng)的權(quán)重系數(shù)，η是學(xué)習(xí)率；步驟202、客戶端在訓(xùn)練后對本地漂移變量和全局漂移變量進(jìn)行更新，步驟如下： 其中，t′是該客戶端上一次參與訓(xùn)練時(shí)的通信回合數(shù)，λ是全局漂移變量更新時(shí)的權(quán)重系數(shù)；步驟203、客戶端將更新后的本地模型上傳至中央服務(wù)器；步驟三、中央服務(wù)器利用服務(wù)器端的漂移變量對更新后的本地模型參數(shù)進(jìn)行聯(lián)邦聚合，并將聚合更新后的本地模型下發(fā)至活動(dòng)客戶端進(jìn)行下一輪本地訓(xùn)練；步驟301、中央服務(wù)器對接收到的本地模型進(jìn)行平均，即： 步驟302、中央服務(wù)器利用平均模型參數(shù)更新服務(wù)器端的漂移變量，即： 其中，ht是第t個(gè)通信回合服務(wù)器端的漂移變量；步驟303、中央服務(wù)器利用服務(wù)器端的漂移變量更新全局模型，并將更新后的全局模型下發(fā)給活動(dòng)客戶端子集St+1，即： 步驟四、在中央服務(wù)器與客戶端通信T個(gè)回合后，輸出最終模型：步驟401、中央服務(wù)器與客戶端通信T個(gè)回合后，利用存儲(chǔ)在中央服務(wù)器上的所有客戶端的本地模型參數(shù)，計(jì)算得到此次訓(xùn)練的最終模型w*，即：。

如需購買、轉(zhuǎn)讓、實(shí)施、許可或投資類似專利技術(shù)，可聯(lián)系本專利的申請人或?qū)＠麢?quán)人西北工業(yè)大學(xué)，其通訊地址為：710072 陜西省西安市碑林區(qū)友誼西路127號；或者聯(lián)系龍圖騰網(wǎng)官方客服，聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。