買專利賣專利找龍圖騰，真高效！ 查專利查商標(biāo)用IPTOP,全免費！專利年費監(jiān)控用IP管家,真方便！

龍圖騰網(wǎng)獲悉重慶大學(xué)申請的專利一種邊緣計算網(wǎng)絡(luò)下分布式模型推理加速方法及系統(tǒng)獲國家發(fā)明授權(quán)專利權(quán)，本發(fā)明授權(quán)專利權(quán)由國家知識產(chǎn)權(quán)局授予，授權(quán)公告號為：CN117933388B 。

龍圖騰網(wǎng)通過國家知識產(chǎn)權(quán)局官網(wǎng)在2025-04-15發(fā)布的發(fā)明授權(quán)授權(quán)公告中獲悉：該發(fā)明授權(quán)的專利申請?zhí)?專利號為：202311688354.5，技術(shù)領(lǐng)域涉及：G06N5/04；該發(fā)明授權(quán)一種邊緣計算網(wǎng)絡(luò)下分布式模型推理加速方法及系統(tǒng)是由郝金隆;李秀華;李輝;程路熙;蔡春茂;范琪琳;楊正益;文俊浩設(shè)計研發(fā)完成，并于2023-12-11向國家知識產(chǎn)權(quán)局提交的專利申請。

本一種邊緣計算網(wǎng)絡(luò)下分布式模型推理加速方法及系統(tǒng)在說明書摘要公布了：一種邊緣計算網(wǎng)絡(luò)下分布式模型推理加速方法及系統(tǒng)，方法包括：1建立邊緣計算系統(tǒng)；2獲取邊緣計算系統(tǒng)中所有邊緣服務(wù)器、移動設(shè)備和DNN推理任務(wù)的信息數(shù)據(jù)；3構(gòu)建DNN推理任務(wù)劃分模型，并對DNN推理任務(wù)劃分模型進行初始化處理；4建立DNN推理延遲模型和DNN推理能耗模型；5構(gòu)建狀態(tài)空間、動作空間和獎勵函數(shù)；6基于多任務(wù)學(xué)習(xí)的異步優(yōu)勢演員?評論家算法求解DNN推理任務(wù)劃分模型，得到劃分后的DNN推理任務(wù)。系統(tǒng)包括：M個邊緣基站、N個移動設(shè)備和模型劃分控制器。本發(fā)明確保計算節(jié)點之間的高效通信和協(xié)作，加速整個DNN模型推理過程。本發(fā)明在邊緣計算網(wǎng)絡(luò)下實現(xiàn)高效的分布式模型推理，提供低延遲的推理服務(wù)并節(jié)省網(wǎng)絡(luò)帶寬資源。

本發(fā)明授權(quán)一種邊緣計算網(wǎng)絡(luò)下分布式模型推理加速方法及系統(tǒng)在權(quán)利要求書中公布了：1.一種邊緣計算網(wǎng)絡(luò)下分布式模型推理加速方法，其特征在于，包括以下步驟：1建立邊緣計算系統(tǒng)；2獲取邊緣計算系統(tǒng)中所有邊緣服務(wù)器、移動設(shè)備和DNN推理任務(wù)的信息數(shù)據(jù)；3構(gòu)建DNN推理任務(wù)劃分模型，并對DNN推理任務(wù)劃分模型進行初始化處理；4建立DNN推理延遲模型和DNN推理能耗模型；所述DNN推理延遲模型用于描述處理DNN推理任務(wù)的延遲情況；所述DNN推理延遲模型包括DNN任務(wù)的本地處理延遲和邊緣處理延遲；所述DNN推理延遲模型Dnt如下所示： 式中，t表示時間；l·為判斷函數(shù)；表示DNN子任務(wù)Int是否在本地處理，表示DNN子任務(wù)Int是否在邊緣服務(wù)器m中處理；其中，本地處理延遲如下所示： 式中，為每個DNN子任務(wù)所需的計算能力，μ為移動設(shè)備的本地計算能力；邊緣處理延遲如下所示： 其中，相鄰DNN子任務(wù)的中間特征圖的傳輸延遲如下所示： 式中，表示相鄰兩個DNN子任務(wù)中的一個在本地處理，另一個在邊緣服務(wù)器中處理；表示相鄰的兩個DNN子任務(wù)在不同的邊緣服務(wù)器中進行處理；0表示相鄰的兩個DNN子任務(wù)在相同的邊緣服務(wù)器或同時在本地處理；DNN子任務(wù)Int在邊緣服務(wù)器m中計算延遲如下所示： 式中，Cm為邊緣服務(wù)器m的計算能力；所述DNN推理能耗模型用于描述推理DNN推理任務(wù)的能耗情況；所述DNN推理能耗模型包括DNN任務(wù)的本地推理能耗和中間DNN特征圖上傳能耗；所述DNN任務(wù)的本地推理能耗如下所示： 式中，t表示時間；τ表示能量系數(shù)；為每個DNN子任務(wù)所需的計算能力，μ為移動設(shè)備的本地計算能力；所述中間DNN特征圖上傳能耗如下所示： 式中，pn表示設(shè)備的傳輸功率；5構(gòu)建狀態(tài)空間、動作空間和獎勵函數(shù)；所述狀態(tài)空間用于存儲DNN推理任務(wù)的狀態(tài)信息；所述動作空間用于描述在邊緣計算系統(tǒng)中DNN推理任務(wù)劃分模型在t時刻所采取的動作；所述獎勵函數(shù)用于指導(dǎo)DNN推理任務(wù)劃分模型在t時刻所采取的動作；6基于多任務(wù)學(xué)習(xí)的異步優(yōu)勢演員-評論家算法求解DNN推理任務(wù)劃分模型，得到劃分后的DNN推理任務(wù)。

如需購買、轉(zhuǎn)讓、實施、許可或投資類似專利技術(shù)，可聯(lián)系本專利的申請人或?qū)＠麢?quán)人重慶大學(xué)，其通訊地址為：400044 重慶市沙坪壩區(qū)沙正街174號；或者聯(lián)系龍圖騰網(wǎng)官方客服，聯(lián)系龍圖騰網(wǎng)可撥打電話0551-65771310或微信搜索“龍圖騰網(wǎng)”。