買專利賣專利找龍圖騰，真高效！ 查專利查商標用IPTOP,全免費！專利年費監控用IP管家,真方便！

龍圖騰網恭喜重慶大學申請的專利一種邊緣計算網絡下分布式模型推理加速方法及系統獲國家發明授權專利權，本發明授權專利權由國家知識產權局授予，授權公告號為：CN117933388B 。

龍圖騰網通過國家知識產權局官網在2025-04-15發布的發明授權授權公告中獲悉：該發明授權的專利申請號/專利號為：202311688354.5，技術領域涉及：G06N5/04；該發明授權一種邊緣計算網絡下分布式模型推理加速方法及系統是由郝金隆;李秀華;李輝;程路熙;蔡春茂;范琪琳;楊正益;文俊浩設計研發完成，并于2023-12-11向國家知識產權局提交的專利申請。

本一種邊緣計算網絡下分布式模型推理加速方法及系統在說明書摘要公布了：一種邊緣計算網絡下分布式模型推理加速方法及系統，方法包括：1建立邊緣計算系統；2獲取邊緣計算系統中所有邊緣服務器、移動設備和DNN推理任務的信息數據；3構建DNN推理任務劃分模型，并對DNN推理任務劃分模型進行初始化處理；4建立DNN推理延遲模型和DNN推理能耗模型；5構建狀態空間、動作空間和獎勵函數；6基于多任務學習的異步優勢演員?評論家算法求解DNN推理任務劃分模型，得到劃分后的DNN推理任務。系統包括：M個邊緣基站、N個移動設備和模型劃分控制器。本發明確保計算節點之間的高效通信和協作，加速整個DNN模型推理過程。本發明在邊緣計算網絡下實現高效的分布式模型推理，提供低延遲的推理服務并節省網絡帶寬資源。

本發明授權一種邊緣計算網絡下分布式模型推理加速方法及系統在權利要求書中公布了：1.一種邊緣計算網絡下分布式模型推理加速方法，其特征在于，包括以下步驟：1建立邊緣計算系統；2獲取邊緣計算系統中所有邊緣服務器、移動設備和DNN推理任務的信息數據；3構建DNN推理任務劃分模型，并對DNN推理任務劃分模型進行初始化處理；4建立DNN推理延遲模型和DNN推理能耗模型；所述DNN推理延遲模型用于描述處理DNN推理任務的延遲情況；所述DNN推理延遲模型包括DNN任務的本地處理延遲和邊緣處理延遲；所述DNN推理延遲模型Dnt如下所示： 式中，t表示時間；l·為判斷函數；表示DNN子任務Int是否在本地處理，表示DNN子任務Int是否在邊緣服務器m中處理；其中，本地處理延遲如下所示： 式中，為每個DNN子任務所需的計算能力，μ為移動設備的本地計算能力；邊緣處理延遲如下所示： 其中，相鄰DNN子任務的中間特征圖的傳輸延遲如下所示： 式中，表示相鄰兩個DNN子任務中的一個在本地處理，另一個在邊緣服務器中處理；表示相鄰的兩個DNN子任務在不同的邊緣服務器中進行處理；0表示相鄰的兩個DNN子任務在相同的邊緣服務器或同時在本地處理；DNN子任務Int在邊緣服務器m中計算延遲如下所示： 式中，Cm為邊緣服務器m的計算能力；所述DNN推理能耗模型用于描述推理DNN推理任務的能耗情況；所述DNN推理能耗模型包括DNN任務的本地推理能耗和中間DNN特征圖上傳能耗；所述DNN任務的本地推理能耗如下所示： 式中，t表示時間；τ表示能量系數；為每個DNN子任務所需的計算能力，μ為移動設備的本地計算能力；所述中間DNN特征圖上傳能耗如下所示： 式中，pn表示設備的傳輸功率；5構建狀態空間、動作空間和獎勵函數；所述狀態空間用于存儲DNN推理任務的狀態信息；所述動作空間用于描述在邊緣計算系統中DNN推理任務劃分模型在t時刻所采取的動作；所述獎勵函數用于指導DNN推理任務劃分模型在t時刻所采取的動作；6基于多任務學習的異步優勢演員-評論家算法求解DNN推理任務劃分模型，得到劃分后的DNN推理任務。

如需購買、轉讓、實施、許可或投資類似專利技術，可聯系本專利的申請人或專利權人重慶大學，其通訊地址為：400044 重慶市沙坪壩區沙正街174號；或者聯系龍圖騰網官方客服，聯系龍圖騰網可撥打電話0551-65771310或微信搜索“龍圖騰網”。