買專利賣專利找龍圖騰，真高效！ 查專利查商標用IPTOP,全免費！專利年費監控用IP管家,真方便！

龍圖騰網恭喜亞馬遜技術股份有限公司申請的專利分布式訓練的梯度壓縮獲國家發明授權專利權，本發明授權專利權由國家知識產權局授予，授權公告號為：CN113435682B 。

龍圖騰網通過國家知識產權局官網在2025-04-15發布的發明授權授權公告中獲悉：該發明授權的專利申請號/專利號為：202110301784.1，技術領域涉及：G06N3/098；該發明授權分布式訓練的梯度壓縮是由K·徐;R·戴爾蒙特設計研發完成，并于2021-03-22向國家知識產權局提交的專利申請。

本分布式訓練的梯度壓縮在說明書摘要公布了：公開了用于在分布式系統內交換壓縮梯度數據的技術。使用神經網絡模型和與該神經網絡模型相關聯的權重集，在分布式系統的第一工作節點上計算出一個梯度集。具有小于閾值的值的梯度集中的每一個都被裁剪，從而得到未裁剪數據元素和已裁剪數據元素。生成映射，該映射指示梯度集中的哪些對應于未裁剪數據元素，哪些對應于已裁剪數據元素。壓縮數據基于未裁剪數據元素生成。映射和壓縮數據從分布式系統的第一工作節點傳輸到第二工作節點。

本發明授權分布式訓練的梯度壓縮在權利要求書中公布了：1.一種在分布式系統中交換壓縮梯度數據以訓練神經網絡模型的方法，該方法包括：在分布式系統的傳輸工作節點處，計算使用神經網絡模型的梯度集和與該神經網絡模型相關的權重集，其中，所述神經網絡模型用于辨別或對象識別并且所述梯度集和所述權重集與為了辨別或對象識別而提交的圖像相關聯，所述神經網絡模型用于語音識別并且所述梯度集和所述權重集與為了語音識別而提供的音頻片段相關聯，所述神經網絡模型用于自然語言處理或機器翻譯并且所述梯度集和所述權重與用于自然語言處理或機器翻譯的文本字符串相關聯，或者所述神經網絡模型用于游戲并且所述梯度集和所述權重集與要求分析以確定下一步的游戲的當前狀態相關聯；在傳輸工作節點上，執行為確定閾值對梯度集進行的稀疏性分析；在傳輸工作節點處，裁剪梯度集中每個有小于閾值的值，從而導致該梯度集包括未裁剪數據元素和已裁剪數據元素；在傳輸工作節點處生成映射，該映射指示梯度集中的哪些對應于未裁剪數據元素，哪些對應于已裁剪數據元素；在傳輸工作節點處，從梯度集生成包括未裁剪數據元素的壓縮數據；將映射和壓縮數據從分布式系統的傳輸工作節點傳輸到接收工作節點；使用映射將壓縮數據中的未裁剪數據元素與已裁剪數據元素進行組合，在接收工作節點處生成解壓縮數據，以使解壓縮數據包括含有未裁剪數據元素和已裁剪數據元素的梯度集；以及在接收工作節點上，根據梯度集和在接收工作節點處收到的其他梯度，計算一個同步的梯度集。

如需購買、轉讓、實施、許可或投資類似專利技術，可聯系本專利的申請人或專利權人亞馬遜技術股份有限公司，其通訊地址為：美國華盛頓州；或者聯系龍圖騰網官方客服，聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。