恭喜西北工業大學蔣雯獲國家專利權
買專利賣專利找龍圖騰,真高效! 查專利查商標用IPTOP,全免費!專利年費監控用IP管家,真方便!
龍圖騰網恭喜西北工業大學申請的專利一種具有漂移修正和收斂加速的聯邦學習方法獲國家發明授權專利權,本發明授權專利權由國家知識產權局授予,授權公告號為:CN117217329B 。
龍圖騰網通過國家知識產權局官網在2025-04-01發布的發明授權授權公告中獲悉:該發明授權的專利申請號/專利號為:202311170375.8,技術領域涉及:G06N20/00;該發明授權一種具有漂移修正和收斂加速的聯邦學習方法是由蔣雯;楊季皓;聶來森設計研發完成,并于2023-09-11向國家知識產權局提交的專利申請。
本一種具有漂移修正和收斂加速的聯邦學習方法在說明書摘要公布了:本發明公開了一種具有漂移修正和收斂加速的聯邦學習方法,包括以下步驟:構建包括一個中央服務器和多個客戶端的聯邦學習系統,中央服務器每次選擇部分活動客戶端并下發模型;被選中的客戶端利用本地數據對模型進行訓練,在訓練后對本地漂移變量和全局漂移變量進行更新,并將訓練后的模型參數上傳至中央服務器;中央服務器利用服務器端的漂移變量對更新后的本地模型參數進行聯邦聚合,并將聚合更新后的本地模型下發至活動客戶端進行下一輪本地訓練。本發明將漂移變量分解為本地漂移變量和全局漂移變量并對它們進行分別更新,同時在不需要傳輸額外變量的情況下獲得了更加準確的修正模型參數,從而有效提升模型的性能,加速模型的收斂,顯著降低通信開銷。
本發明授權一種具有漂移修正和收斂加速的聯邦學習方法在權利要求書中公布了:1.一種具有漂移修正和收斂加速的聯邦學習方法,其特征在于,包括以下步驟:步驟一、構建包括一個中央服務器和N個客戶端的典型聯邦學習系統:步驟101、意圖參與聯邦訓練客戶端向中央服務器發起注冊,中央服務器為該客戶端分配存儲空間用于存儲模型參數;步驟102、在第t個通信回合,中央服務器以概率ε選擇部分活動客戶端子集St,并將全局模型wt下發給St內所有的S個客戶端;步驟二、被選中的客戶端利用本地數據對模型進行訓練,在訓練后對本地漂移變量和全局漂移變量進行更新,并將訓練后的模型參數上傳至中央服務器:步驟201、本地客戶端i∈St采用隨機梯度下降法對模型進行K次本地更新,即: 其中,是本地損失函數,是經典的交叉熵損失,和分別是本地漂移變量和全局漂移變量,α和β分別是漂移變量近端項和全局參數修正項的權重系數,η是學習率;步驟202、客戶端在訓練后對本地漂移變量和全局漂移變量進行更新,步驟如下: 其中,t′是該客戶端上一次參與訓練時的通信回合數,λ是全局漂移變量更新時的權重系數;步驟203、客戶端將更新后的本地模型上傳至中央服務器;步驟三、中央服務器利用服務器端的漂移變量對更新后的本地模型參數進行聯邦聚合,并將聚合更新后的本地模型下發至活動客戶端進行下一輪本地訓練;步驟301、中央服務器對接收到的本地模型進行平均,即: 步驟302、中央服務器利用平均模型參數更新服務器端的漂移變量,即: 其中,ht是第t個通信回合服務器端的漂移變量;步驟303、中央服務器利用服務器端的漂移變量更新全局模型,并將更新后的全局模型下發給活動客戶端子集St+1,即: 步驟四、在中央服務器與客戶端通信T個回合后,輸出最終模型:步驟401、中央服務器與客戶端通信T個回合后,利用存儲在中央服務器上的所有客戶端的本地模型參數,計算得到此次訓練的最終模型w*,即:。
如需購買、轉讓、實施、許可或投資類似專利技術,可聯系本專利的申請人或專利權人西北工業大學,其通訊地址為:710072 陜西省西安市碑林區友誼西路127號;或者聯系龍圖騰網官方客服,聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。
1、本報告根據公開、合法渠道獲得相關數據和信息,力求客觀、公正,但并不保證數據的最終完整性和準確性。
2、報告中的分析和結論僅反映本公司于發布本報告當日的職業理解,僅供參考使用,不能作為本公司承擔任何法律責任的依據或者憑證。